Resumen
Face Up es una herramienta de autor que permite a los formadores crear situaciones prácticas en las que el alumno conversa con un interlocutor impulsado por inteligencia artificial y, después, recibe un debriefing. Siempre sabes cuándo hablas con una IA. Lo que procede de un modelo se indica como tal. El debriefing tiene una finalidad pedagógica y no puede servir de base para una decisión relativa a tu puesto, tu remuneración o tu carrera profesional. Tus datos se alojan en Francia y no se utilizan para entrenar los modelos.
1. Qué hace Face Up
Face Up permite a un formador construir simulaciones conversacionales para que sus alumnos practiquen las habilidades relacionales.
- Durante la sesión: el alumno conversa, de viva voz, con un personaje impulsado por inteligencia artificial, en un rol profesional que él mismo desempeña.
- Después de la sesión: se genera un debriefing a partir de lo que se ha dicho, para identificar las palancas de mejora.
- Para el formador: la observación en directo, la reproducción de la sesión y el debriefing sirven de material para el trabajo pedagógico.
2. Nuestra clasificación con arreglo al AI Act
El Reglamento europeo 2024/1689, conocido como AI Act, regula la introducción en el mercado de los sistemas de inteligencia artificial en la Unión Europea.
- Nuestro papel: QONVERS., editora de Face Up, tiene la consideración de proveedor de un sistema de IA. El cliente que despliega la solución entre sus equipos tiene la consideración de responsable del despliegue.
- Nuestra categoría: Face Up no incurre en ninguna de las prácticas prohibidas por el artículo 5 y no constituye un sistema de IA de alto riesgo en el sentido del anexo III. La solución pertenece a la categoría de riesgo mínimo, sujeta a las obligaciones de transparencia del artículo 50.
- Nuestro análisis: esta clasificación se ha establecido con el apoyo de un despacho de abogados independiente.
3. Siempre sabes cuándo hablas con una IA
De conformidad con el artículo 50(1) del AI Act, se te informa antes del primer intercambio y esta información permanece visible durante toda la sesión.
- La mención «Interacción con una IA» aparece en la pantalla previa a la sesión y en la propia pantalla de la sesión.
- Es visible sin necesidad de buscarla, tanto en vídeo como en audio, a pantalla completa o en vista reducida.
- No puede ocultarse. Ningún ajuste permite eliminarla.
- Ningún mecanismo intenta hacerte creer que conversas con una persona real.
4. Lo que procede de una IA se señala
El artículo 50(2) obliga a identificar los contenidos generados por una inteligencia artificial. Distinguimos tres casos, porque no todo lo que ves en Face Up procede de un modelo.
- «Interacción con una IA», en la reproducción en vídeo y audio de tu sesión y en la transcripción. En estos contenidos apareces tú: tus palabras y tu imagen figuran junto a las del personaje. Presentarlos como generados por una IA sería falso.
- «Contenido generado por IA», en el vídeo de introducción de un escenario y en el audio de solución de un debriefing. Aquí, la imagen, la voz y el texto proceden íntegramente de un modelo.
- La mención del debriefing, reproducida más abajo, en los debriefings en caliente y en frío.
Estas menciones se muestran encima del contenido al que se refieren, permanecen visibles durante toda la reproducción de un vídeo o un audio y no pueden ocultarse. Se conservan en los archivos exportados y en los contenidos enviados a tu herramienta de formación, donde van acompañadas de un marcado legible por máquina.
5. Para qué sirve el debriefing
El debriefing lo genera la inteligencia artificial a partir de lo que se ha dicho durante tu sesión. Ofrece una valoración de la situación práctica que acabas de realizar, y tu formador tiene acceso a él.
Su finalidad es pedagógica, y la mención que aparece en cada debriefing lo expresa en los mismos términos que recogen nuestros compromisos contractuales:
Debriefing generado por IA, con fines pedagógicos. No puede servir de base para una decisión relativa al puesto, la remuneración o la carrera profesional del alumno.
- Esta mención es la misma para el alumno y para el formador. No tenemos un discurso distinto según quién mire.
- La valoración se refiere a una situación simulada en un contexto de entrenamiento, no a la persona.
- Face Up no es una herramienta de reclutamiento ni de selección.
6. Tus datos no se utilizan para entrenar los modelos
- Los intercambios que tienen lugar durante tus sesiones no se utilizan para entrenar, ajustar ni mejorar los modelos de inteligencia artificial, ya sean nuestros o de nuestros socios.
- Los datos y la infraestructura están alojados en Francia.
- Los datos están cifrados en reposo y en tránsito.
- La grabación de audio y vídeo es un ajuste del espacio de trabajo, desactivado por defecto, que activa en su caso el equipo de formación de tu organización.
7. Supervisión humana
El formador sigue estando en el centro del proceso. Construye las situaciones prácticas, elige los criterios observados, accede a las sesiones y dirige el debriefing pedagógico. La inteligencia artificial aporta material, pero no sustituye el criterio del formador.
8. Tus derechos
De conformidad con el RGPD, tienes derecho de acceso, rectificación, supresión, oposición y portabilidad de tus datos.
- Cuando Face Up lo despliega tu empleador o tu centro de formación, este es el responsable del tratamiento y QONVERS. actúa como encargado del tratamiento. Dirige tus solicitudes a él en primer lugar.
- También puedes ponerte en contacto con nuestro delegado de protección de datos (DPO) en la dirección dpo@face-up.fr.
9. Preguntas
Para cualquier pregunta sobre el uso de la inteligencia artificial en Face Up, escríbenos a contact@face-up.fr.
