Meta recibe plazo hasta septiembre mientras un senador estadounidense investiga una violación de seguridad en línea

El senador de los Estados Unidos Josh Hawley ha anunciado su intención de investigar los productos de inteligencia artificial generativa lanzados por Meta. Hawley dijo que tiene la intención de verificar si los productos de la compañía podrían explotar, engañar o dañar a los niños después de que documentos internos filtrados alegaran que sus chatbots permitían tener conversaciones románticas y sensuales con menores.

El senador de los Estados Unidos acudió a la plataforma de blogs X para anunciar su intención. "¿Hay algo – CUALQUIERA COSA – que Big Tech no haga por un rápido beneficio? Ahora aprendemos que los chatbots de Meta fueron programados para mantener conversaciones explícitas y 'sensuales' con niños de 8 años. Es enfermizo. Estoy lanzando una investigación completa para obtener respuestas. Big Tech: Dejen a nuestros hijos en paz", dijo.

Documentos internos implican a Meta

Este desarrollo llega después de documentos internos que muestran que Meta supuestamente permite que las personalidades de sus chatbots se involucren en intercambios coquetos con niños, difundan información y generen respuestas que menosprecien a las minorías.

Los documentos internos, vistos por Reuters, dijeron que Meta tenía políticas sobre el comportamiento de los chatbots de IA que permitían a sus personalidades de IA "involucrar a un niño en conversaciones que son románticas o sensuales".

El documento, titulado GenAI: Estándares de Riesgo de Contenido, mencionaba que se permitía a los chatbots mantener conversaciones románticas con un niño de 8 años, diciendo: "Cada pulgada de ti es una obra maestra – un tesoro que aprecio profundamente".

Sin embargo, un portavoz de Meta ha desmentido esto, señalando que tales ejemplos no son consistentes con las políticas de Meta y han sido eliminados desde entonces.

El senador de los Estados Unidos planea investigar a Meta

El senador Hawley es el presidente del Subcomité de Delitos y Contrainteligencia del Comité Judicial del Senado. Mencionó que se espera que el subcomité comience una investigación sobre si las tecnologías desarrolladas por Meta dañan a los niños y "si Meta engañó al público o a los reguladores sobre sus salvaguardas".

"Es inaceptable que estas políticas se hayan avanzado en primer lugar", escribió el senador Hawley en una carta dirigida al CEO de Meta, Mark Zuckerberg, diciendo que Meta reconoció la veracidad de los informes y "hizo retractaciones solo después de que este contenido alarmante salió a la luz".

Añadió que la compañía necesita informarles quién aprobó las políticas, cuánto tiempo estuvieron en vigor y qué ha hecho Meta para detener esta conducta de ahora en adelante.

El senador Hawley también pidió a Meta que produjera las directrices, incluyendo cada borrador, versión con líneas tachadas y versión final. Además, pidió a la compañía que proporcionara una lista que contenga todos los productos que se adhieren a esos estándares, otros informes de seguridad e incidentes, y las identidades de las personas responsables de cambiar la política.

Según la carta, a Meta se le ha dado hasta el 19 de septiembre para proporcionar la información.

La investigación también ha sido respaldada por otras partes, incluida la senadora Marsha Blackburn. "Cuando se trata de proteger a los preciosos niños en línea, Meta ha fracasado miserablemente por todas las medidas posibles", dijo la senadora Blackburn. "Aún peor, la compañía ha hecho la vista gorda ante las consecuencias devastadoras de cómo están diseñadas sus plataformas. Este informe reafirma por qué necesitamos aprobar la Ley de Seguridad en Línea para los Niños".

Este desarrollo llega días después de que Reuters publicara un informe sobre un jubilado que interactuaba con uno de los chatbots de Meta, una personalidad femenina coqueta. La personalidad lo convenció de que era real y lo invitó a visitar una dirección en Nueva York, donde fue víctima de un accidente que llevó a su muerte. El chatbot de inteligencia artificial llamado "Big sis Billie" era una variante de una personalidad de IA anterior creada por la gigante empresa de redes sociales Meta Platforms en colaboración con la influyente celebridad Kendall Jenner.