Prism analiza comentarios de encuestas de compromiso de empleados realizadas en nuestra plataforma. Actualmente, Prism tiene la tarea de categorizar comentarios en temas predefinidos, resumir el feedback y sugerir acciones potenciales basadas en este análisis. Además, los usuarios pueden interactuar con los datos a través de una función de chat para realizar consultas adicionales.

¿Cómo identifican y mitigan el sesgo en sus modelos de IA?
Trabajamos para asegurar que los modelos de IA utilizados en nuestra plataforma sean evaluados continuamente para detectar sesgos. Los modelos están diseñados con equidad en mente, utilizando metodologías para identificar y reducir el sesgo en sus predicciones. Aunque ningún sistema de IA puede estar completamente libre de sesgo, los modelos están entrenados para manejar una amplia gama de comentarios de diferentes culturas, idiomas y antecedentes para minimizar resultados discriminatorios.

¿Qué procesos están en marcha para asegurar datos de entrenamiento diversos y representativos?
En conjunto con OpenAI, empleamos conjuntos de datos vastos y diversos en el entrenamiento, incluyendo datos de una amplia variedad de fuentes. Esto ayuda a asegurar que el modelo tenga exposición a muchas perspectivas. Nuestro equipo también monitorea el rendimiento de la IA para detectar cualquier sesgo inesperado en los resultados y actúa sobre estos conocimientos cuando es necesario.

¿Pueden proporcionar ejemplos de auditorías de sesgo o iniciativas de desescalado realizadas en sus sistemas de IA?
Tanto People Insight como OpenAI realizan auditorías regularmente en los modelos para detectar y mitigar sesgos. Estas incluyen examinar los datos de entrenamiento y las salidas del modelo para encontrar patrones de sesgo injusto y tomar medidas para abordarlos, como reequilibrar conjuntos de datos o ajustar los pesos del modelo. Aprovechamos los avances de OpenAI en esta área para refinar continuamente nuestro análisis de comentarios.

¿Qué tipos de datos se utilizan para entrenar sus modelos de IA y cómo aseguran su calidad y relevancia?
Los modelos se entrenan con conjuntos de datos diversos obtenidos de una amplia gama de contenido en internet, libros y otras fuentes de conocimiento. Estos modelos están entrenados para generalizar a través de múltiples dominios, asegurando relevancia para varios temas. Confiamos en el compromiso continuo de OpenAI con la calidad y diversidad de los datos.

¿Con qué frecuencia se reentrenan los modelos y qué criterios determinan la necesidad de reentrenamiento?
Los modelos utilizados se reentrenan periódicamente como parte del proceso de investigación y desarrollo de OpenAI. El reentrenamiento ocurre cuando se realizan mejoras o actualizaciones significativas en la arquitectura del modelo, o cuando hay necesidad de integrar datos más actualizados, lo que ayuda a mantener los modelos frescos y relevantes para las tendencias actuales y patrones de lenguaje. Todas las actualizaciones son revisadas por People Insight como parte de nuestra auditoría y análisis continuos.

¿Cómo aseguran la transparencia y explicabilidad de sus sistemas de IA?
Nos esforzamos por proporcionar la mayor transparencia posible en cómo la IA analiza los comentarios. Nos esforzamos por hacer la IA más explicable, asegurando que los usuarios puedan entender cómo se toman las decisiones (como la categorización de comentarios). Ofrecemos documentación clara sobre cómo la IA procesa datos, categoriza temas y genera resúmenes.

¿Pueden proporcionar documentación o informes sobre cómo se toman las decisiones por el sistema de IA?
Sí, proporcionamos documentación sobre cómo funciona el sistema de IA dentro de nuestra plataforma. Esto incluye detalles sobre cómo se seleccionan los temas, cómo se analiza el sentimiento y cómo se generan las acciones sugeridas. Además, recopilamos y rastreamos el feedback de los usuarios sobre las respuestas generadas por la IA para refinar las indicaciones y mejorar los resultados con el tiempo. También monitoreamos las indicaciones ingresadas por los usuarios para ayudarnos a entender los patrones de uso y optimizar el valor del sistema.

¿Qué pautas éticas siguen en el desarrollo y despliegue de soluciones de IA?
Seguimos las pautas éticas proporcionadas por OpenAI, que incluyen principios de equidad, transparencia y responsabilidad. En el desarrollo de nuestras soluciones impulsadas por IA, priorizamos el uso ético de los datos, asegurando que la información personal se maneje con cuidado y que el sistema opere de manera que beneficie equitativamente a todos los usuarios.

¿Cómo aseguran la responsabilidad por las acciones de sus sistemas de IA?
Nos tomamos la responsabilidad en serio. Aunque la IA ayuda en el análisis de datos y proporciona recomendaciones, las decisiones finales siempre están en manos humanas. Aseguramos que nuestros usuarios tengan la última palabra y ofrecemos mecanismos para cuestionar o anular las salidas impulsadas por la IA cuando sea necesario.

¿Cómo se alinean sus soluciones de IA con las regulaciones y normas existentes, como la Ley de IA de la UE o los marcos de NIST?
Nuestra plataforma se alinea con los estándares y regulaciones de la industria, como la Ley de IA de la UE y el Marco de Gestión de Riesgos de IA de NIST. Nos mantenemos informados sobre los requisitos legales y aseguramos que nuestros modelos de IA cumplan con las leyes de privacidad de datos (como el GDPR) y los estándares de uso ético de la IA.

¿Están utilizando un proveedor que esté en el Marco de Protección de Datos (DPF)?

El DPF es solo para empresas de EE. UU. No podemos participar en él. Nuestro proveedor, OpenAI, no está en el DPF. Pero para facilitar las transferencias de datos del Reino Unido a EE. UU., OpenAI emplea Cláusulas Contractuales Estándar (SCCs), como se detalla en su Anexo de Procesamiento de Datos. Las SCCs son acuerdos contractuales aprobados por la Comisión Europea y la Oficina del Comisionado de Información del Reino Unido para asegurar medidas de protección de datos adecuadas al transferir datos personales a países sin una decisión de adecuación.

¿Envían algún detalle personal a OpenAI?

No. Todos los datos enviados a OpenAI están completamente anonimizados: no enviamos ninguna información de identificación personal (PII). Los nombres y otros detalles identificativos se eliminan y se reemplazan con identificadores únicos antes de enviar los datos. Estos identificadores se utilizan luego para emparejar y volver a aplicar la información original una vez que se recibe la respuesta.

​
​

Al abordar estas preguntas clave, buscamos proporcionar a los usuarios claridad y confianza en cómo funciona nuestro análisis de comentarios impulsado por IA, asegurando equidad, transparencia y responsabilidad a lo largo del proceso.