El senador estadounidense Josh Hawley anunció su intención de investigar los productos de inteligencia artificial generativa lanzados por Meta. Hawley afirmó que pretende comprobar si los productos de la compañía podrían explotar, engañar o perjudicar a menores, tras la filtración de documentos internos que alegaban que sus chatbots podían mantener conversaciones románticas y sensuales con menores.
El senador estadounidense recurrió a la plataforma de blogs X para anunciar su intención. "¿Hay algo, CUALQUIER COSA, que las grandes tecnológicas no hagan por dinero fácil? Ahora descubrimos que los chatbots de Meta fueron programados para mantener conversaciones explícitas y sensuales con niños de 8 años. Es una locura. Voy a iniciar una investigación exhaustiva para obtener respuestas. Grandes tecnológicas: dejen a nuestros niños en paz", dijo.
Los documentos internos implican a Meta
Este desarrollo se produce después de que aparecieron documentos internos que muestran que Meta supuestamente permite a sus personajes de chatbot participar en intercambios coquetos con niños, difundir información y generar respuestas que degradan a las minorías.
Los documentos internos, vistos por Reuters, dijeron que Meta tenía políticas sobre el comportamiento de los chatbots de IA que permitían a sus personajes de IA "involucrar a un niño en conversaciones románticas o sensuales"
El documento, titulado GenAI: Estándares de riesgo de contenido, menciona que a los chatbots se les permitió mantener conversaciones románticas con una niña de 8 años y dice: "Cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente"
Sin embargo, un de Meta lo ha desmentido, señalando que dichos ejemplos no son consistentes con las políticas de Meta y desde entonces han sido eliminados.
Senador de Estados Unidos planea investigar Meta
El senador Hawley preside el Subcomité Judicial del Senado sobre Delincuencia y Antiterrorismo. Mencionó que se espera que el subcomité inicie una investigación para determinar si las tecnologías desarrolladas por Meta perjudican a los menores y si Meta engañó al público o a los reguladores sobre sus medidas de seguridad
"Es inaceptable que estas políticas se hayan impulsado en primer lugar", escribió el senador Hawley en una carta dirigida al director ejecutivo de Meta, Mark Zuckerberg, diciendo que Meta reconoció la veracidad de los informes y "setracsolo después de que este contenido alarmante salió a la luz"
Agregó que la empresa necesita informarles quién aprobó las políticas, cuánto tiempo estuvieron vigentes y qué ha hecho Meta para detener esta conducta en el futuro.
El senador Hawley también solicitó a Meta que elaborara las directrices, incluyendo cada borrador, revisión y versión final. Además, solicitó a la empresa que proporcionara una lista con todos los productos que cumplen con dichas normas, otros informes de seguridad edent , y ladentde los responsables de modificar la política.
Según la carta, Meta tiene hasta el 19 de septiembre para proporcionar la información.
La investigación también ha sido respaldada por otros partidos, incluida la senadora Marsha Blackburn. «En lo que respecta a la protección de los niños en línea, Meta ha fracasado estrepitosamente en todos los aspectos», declaró la senadora Blackburn. «Peor aún, la empresa ha ignorado las devastadoras consecuencias del diseño de sus plataformas. Este informe reafirma la necesidad de aprobar la Ley de Seguridad Infantil en Línea»
Este desarrollo se produce días después de que Reuters publicara un informe sobre un jubilado que interactuaba con uno de los chatbots de Meta, un personaje de mujer coqueta. El personaje lo convenció de que era real y lo invitó a visitar una dirección en Nueva York, donde fue víctima de un accidente dent le causó la muerte. El de inteligencia artificial, llamado "Big sis Billie", era una variante de un personaje de IA anterior creado por la gigante de redes sociales Meta Platforms en colaboración con la famosa influencer Kendall Jenner.
