OpenAI respalda la lucha del grupo de seguridad infantil contra la votación sobre IA

OpenAI y Common Sense Media, que discreparon en materia de políticas tecnológicas, anunciaron el viernes que unirán fuerzas en una propuesta de votación destinada a proteger a los niños que utilizan chatbots de inteligencia artificial en California.

Los dos grupos dijeron que retirarían las propuestas separadas que habían planeado someter a los votantes de California este noviembre. En su lugar, respaldarán una única medida que desarrollaron conjuntamente.

El acuerdo evita lo que podría haber sido una costosa batalla política entre las dos organizaciones, con OpenAI planeando contribuir con no menos de 10 millones de dólares para lograr que la medida llegue a la votación, según dos personas con conocimiento del arreglo.

La nueva propuesta otorgaría a los padres mayor poder sobre cómo sus hijos utilizan los chatbots de IA. Sin embargo, excluye ciertas disposiciones que Common Sense Media había querido incluir en su versión original. Esos elementos eliminados incluyen una prohibición de los teléfonos celulares en las escuelas y una cláusula que habría permitido a los padres y los niños emprender acciones legales contra las principales empresas de IA si los chatbots causaran daños.

«En lugar de confundir a los votantes con iniciativas de votación competitivas sobre IA, decidimos trabajar juntos», dijo Jim Steyer, quien fundó y dirige Common Sense Media. Habló sobre el acuerdo en una conferencia de prensa el viernes.

Para llevar la medida ante los votantes se requieren aproximadamente 875.000 firmas de residentes de California. Chris Lehane, quien se encarga de los asuntos de política global para OpenAI, dijo que ambas partes crearían una organización de campaña para recopilar firmas a partir de principios de febrero. Tanto Lehane como Steyer señalaron que podrían retirar la propuesta si los legisladores de California actúan rápidamente para aprobar legislación que aborde la seguridad de los chatbots para los niños.

Esta asociación marca un cambio para dos organizaciones que a menudo se han encontrado en lados opuestos de los temas tecnológicos.

Common Sense Media se ha convertido en un actor importante que impulsa normas que rigen a las empresas tecnológicas en todo Estados Unidos. La organización ayudó a crear la Ley de Privacidad del Consumidor de California en 2018. El mes pasado, apoyó una ley de Nueva York que exige etiquetas de advertencia sobre la salud mental en ciertos sitios de redes sociales.

El grupo también ha sido vocal sobre la regulación de los chatbots de IA. El año pasado, respaldó un proyecto de ley de California que habría impedido que los populares chatbots de compañía de IA conversaran con niños a menos que esos programas no fueran «previsiblemente capaces» de tener conversaciones sexualmente explícitas o promover comportamientos dañinos como el autolesionamiento, la violencia y los trastornos alimentarios.

Los grupos de la industria tecnológica lucharon contra ese proyecto de ley

El gobernador Gavin Newsom, demócrata, lo rechazó, calificándolo de demasiado restrictivo.

Newsom dijo que quería que los legisladores abordaran el tema en 2026, pero añadió que el estado «no puede preparar a nuestra juventud para un futuro donde la IA es ubicua impidiendo por completo su uso de estas herramientas».

Common Sense Media presentó su propuesta de iniciativa de votación en octubre, utilizando el proyecto de ley vetado como modelo. OpenAI respondió presentando su propia iniciativa, más limitada, sobre la seguridad infantil en diciembre.

OpenAI formó un equipo centrado en las medidas de votación de California durante el verano, esperando resistencia a sus planes para cambiar su estructura organizativa, dijeron personas familiarizadas con la situación.

La Cámara de Comercio de California, cuyos miembros incluyen a empresas tecnológicas ricas como Google, Meta y Amazon.com, votó en diciembre para oponerse a lo que Common Sense Media había propuesto.

Ese mismo mes, Lehane se reunió con Steyer y sugirió buscar un compromiso.

Las dos organizaciones habían estado en conversaciones durante más de un año y ya tenían un acuerdo para colaborar en pautas de IA y materiales de enseñanza. Durante las conversaciones sobre un posible compromiso, OpenAI se basó en conceptos sobre la seguridad infantil que el líder de OpenAI, Sam Altman, había discutido con el Fiscal General de California, Rob Bonta, en septiembre. Estos incluían los planes de la empresa para crear tecnología para identificar a usuarios menores de 18 años.

Lo que requeriría la nueva medida

La iniciativa de votación actualizada, que reemplazará el archivo anterior de OpenAI, obligaría a las empresas de IA a proporcionar una versión diferente de su servicio a los usuarios identificados como menores de 18 años, incluso si esos usuarios afirman ser mayores. También requeriría a las empresas proporcionar controles parentales, someterse a revisiones independientes de seguridad infantil y detener la publicidad dirigida a niños, junto con otros requisitos.

El compromiso beneficia a OpenAI, que ha enfrentado demandas de varias familias en el último año alegando que las interacciones con ChatGPT dañaron a sus familiares, incluidos jóvenes que se quitaron la vida.

OpenAI calificó las situaciones descritas en esas demandas como «una situación increíblemente desgarradora» y mencionó las actualizaciones recientes que había realizado en ChatGPT para manejar mejor a los usuarios que experimentan angustia mental.

En noviembre, Common Sense Media publicó una revisión que afirmaba que los chatbots de IA, incluidos ChatGPT, Gemini de Google, Claude de Anthropic y Meta AI de Meta Platforms, eran «fundamentalmente inseguros para el apoyo a la salud mental de los adolescentes».

Steyer, quien estableció su organización en 2003, ha intentado consistentemente equilibrar el enfrentamiento con las empresas de tecnología y medios mientras también trabaja con ellas en temas de seguridad.