La ética de la empresa de inteligencia artificial xAI de Elon Musk está siendo cuestionada después de que comunicaciones internas revelaran que se pidió a los empleados que grabaran videos de sus rostros y expresiones para entrenar el gran modelo de lenguaje de la compañía, Grok.
Según personas familiarizadas con el asunto, el proyecto interno, denominado "Skippy", se llevó a cabo en abril e involucró a más de 200 empleados. Supuestamente, la iniciativa buscaba ayudar al sistema de IA a interpretar mejor las emociones y expresiones humanas mediante grabaciones de video de conversaciones y movimientos faciales reales.
Algunos miembros del personal sintieron que la empresa estaba violando su derecho a la privacidad y al consentimiento, y no declaró claramente cómo se utilizarían sus datos en el entrenamiento de IA.
Los empleados de xAI tienen problemas con el proyecto 'Skippy'
Según documentos internos y comunicaciones de Slack obtenidos por Business Insider, xAI encargó a sus tutores de IA, empleados responsables de perfeccionar el modelo, que grabaran conversaciones de 15 a 30 minutos con sus compañeros de trabajo.
Según se informa, las sesiones incluyeron diálogos y expresiones faciales exageradas para simular respuestas emocionales reales. Un individuo en cada par de conversaciones era el "anfitrión" o asistente virtual, y el otro, un usuario.
Se le indicó al presentador que limitara sus movimientos y se mantuviera dentro del encuadre de una cámara óptima, pero el usuario podía grabar desde un teléfono móvil o una computadora y moverse con naturalidad. El material resultante pretendía reflejar conversaciones informales y reales.
El ingeniero principal del proyecto Skippy dijo a los empleados durante una reunión inicial que querían "darle una cara a Grok" y que estos datos podrían respaldar el desarrollo de avatares con apariencia humana.
Los chats muestran que el ingeniero prometió que los videos solo se usarían internamente y no para crear versiones digitales de los participantes, pero supuestamente no estaban convencidos.
“ Nuestro objetivo es exponer el modelo a datos imperfectos, como ruido de fondo y movimientos bruscos, para que sus respuestas sean más versátiles ”, explicó el ingeniero, según una grabación de la reunión. También insistieron: “ Tu cara nunca llegará a producción. Es solo para enseñarle a Grok qué es una cara ”.
A pesar de tales garantías, decenas de empleados se mostraron inquietos después de que se les exigiera firmar un formulario de consentimiento que otorgaba a xAI derechos “perpetuos” para utilizar su imagen con fines de capacitación y en materiales promocionales.
Exclusiones y avisos incómodos
Varios trabajadores optaron por no participar en el programa, alegando su incomodidad con el desarrollo del proyecto y el lenguaje empleado en los acuerdos de consentimiento. Durante conversaciones internas, un empleado preguntó si se podían manipular las grabaciones para simular que decían cosas que en realidad nunca dijeron.
Como parte de las sesiones de grabación, xAI animó a los empleados a hablar de temas personales o provocativos como: "¿Saldrías alguna vez con alguien que tenga un hijo?", "¿Cómo manipulas a la gente en secreto para conseguir lo que quieres?" y "¿Qué pasa con las duchas, en la mañana o en la noche?"
Algunos encontraron los temas profundamente invasivos o inapropiados.
Tan solo unos días después de Grok 4 a mediados de julio, xAI presentó dos avatares de IA llamados Ani y Rudi. Vídeos publicados en X, la plataforma social propiedad de Musk, muestran que se puede incitar a Ani a participar en conversaciones sexualmente explícitas y a quitarse la ropa.
Según se informa, Rudi, un avatar de panda rojo, ha realizado amenazas violentas, incluidas declaraciones sobre bombardear bancos y dañar a multimillonarios.
Aunque xAI no ha confirmado si el proyecto Skippy contribuyó directamente al desarrollo de estos avatares, el silencio está recibiendo diferentes interpretaciones.
xAI también lanzó una función de chat de video para Grok en abril y, a principios de este mes, presentó Grok para los propietarios de Tesla, junto con un nivel de suscripción premium llamado SuperGrok Heavy, con un precio de $300 por mes.
El 9 de julio, la función de avisos de Grok se suspendió brevemente tras escribir una diatriba antisemita. Posteriormente, la compañía emitió una disculpa pública en X.
