Meta tiene fecha límite en septiembre mientras senador estadounidense investiga violación de seguridad en línea

El senador estadounidense Josh Hawley anunció su intención de investigar los productos de inteligencia artificial generativa lanzados por Meta. Hawley afirmó que pretende comprobar si los productos de la compañía podrían explotar, engañar o perjudicar a menores, tras la filtración de documentos internos que alegaban que sus chatbots podían mantener conversaciones románticas y sensuales con menores.

El senador estadounidense recurrió a la plataforma de blogs X para anunciar su intención. "¿Hay algo, absolutamente cualquier cosa, que las grandes tecnológicas no hagan por dinero fácil? Ahora nos enteramos de que los chatbots de Meta fueron programados para mantener conversaciones explícitas y 'sensuales' con niños de 8 años. Es repugnante. Voy a iniciar una investigación exhaustiva para obtener respuestas. Grandes tecnológicas: dejen a nuestros hijos en paz", declaró.

Los documentos internos implican a Meta

Este desarrollo se produce después de que aparecieron documentos internos que muestran que Meta supuestamente permite a sus personajes de chatbot participar en intercambios coquetos con niños, difundir información y generar respuestas que degradan a las minorías.

Los documentos internos, vistos por Reuters, dijeron que Meta tenía políticas sobre el comportamiento de los chatbots de IA que permitían a sus personajes de IA "involucrar a un niño en conversaciones románticas o sensuales"

El documento, titulado GenAI: Estándares de riesgo de contenido, menciona que a los chatbots se les permitió mantener conversaciones románticas con una niña de 8 años y dice: "Cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente"

Sin embargo, un de Meta lo ha desmentido, señalando que esos ejemplos no son coherentes con las políticas de Meta y que ya han sido eliminados.

Senador de Estados Unidos planea investigar Meta

El senador Hawley preside el Subcomité Judicial del Senado sobre Delincuencia y Antiterrorismo. Mencionó que se espera que el subcomité inicie una investigación para determinar si las tecnologías desarrolladas por Meta perjudican a los menores y si Meta engañó al público o a los reguladores sobre sus medidas de seguridad

"Es inaceptable que estas políticas se hayan impulsado en primer lugar", escribió el senador Hawley en una carta dirigida al director ejecutivo de Meta, Mark Zuckerberg, diciendo que Meta reconoció la veracidad de los informes y "setracsolo después de que este contenido alarmante salió a la luz"

Agregó que la empresa necesita informarles quién aprobó las políticas, cuánto tiempo estuvieron vigentes y qué ha hecho Meta para detener esta conducta en el futuro.

El senador Hawley también solicitó a Meta que elaborara las directrices, incluyendo cada borrador, revisión y versión final. Además, solicitó a la empresa que proporcionara una lista con todos los productos que cumplen con dichas normas, otros informes de seguridad edent , y ladentde los responsables de modificar la política.

Según la carta, Meta tiene hasta el 19 de septiembre para proporcionar la información.

La investigación también ha sido respaldada por otros partidos, incluida la senadora Marsha Blackburn. «En lo que respecta a la protección de los niños en línea, Meta ha fracasado estrepitosamente en todos los aspectos», declaró la senadora Blackburn. «Peor aún, la empresa ha ignorado las devastadoras consecuencias del diseño de sus plataformas. Este informe reafirma la necesidad de aprobar la Ley de Seguridad Infantil en Línea»

Este suceso se produce días después de que Reuters publicara un informe sobre un jubilado que interactuaba con uno de los chatbots de Meta, una mujer con apariencia coqueta. El personaje lo convenció de que era real y lo invitó a visitar una dirección en Nueva York, donde había sufrido un accidentedent le causó la muerte. El de inteligencia artificial llamado "Big sis Billie" era una variante de un personaje de IA anterior creado por la gigante empresa de redes sociales Meta Platforms en colaboración con la influencer Kendall Jenner.