Meta desactiva personajes de IA para adolescentes antes del nuevo lanzamiento

Meta anunció que está deshabilitando el acceso de todos los adolescentes a sus personajes de IA en todo el mundo en cada aplicación.

“A partir de las próximas semanas, los adolescentes ya no podrán acceder a personajes de IA en nuestras aplicaciones hasta que la experiencia actualizada esté lista”, escribió Meta en una publicación de blog.

La empresa declaró en una publicación de blog actualizada que esta regla cubre a cualquier persona que proporcionó una fecha de nacimiento de adolescente y a aquellos que dicen ser adultos pero se sospecha que son adolescentes por su tecnología de predicción de edad.

Meta detuvo el acceso cuando los padres exigieron información y control más claros sobre las interacciones de IA de sus hijos adolescentes.

La empresa planeaba lanzar estas funciones este año, pero ha decidido deshabilitar completamente los personajes de IA.

Meta planea personajes de IA específicos por edad

La empresa tiene como objetivo crear un personaje de IA especial solo para adolescentes. Meta declaró que los nuevos personajes de IA para adolescentes incluirán controles parentales.

Los nuevos personajes proporcionarán respuestas apropiadas para la edad y se centrarán en la educación, los deportes y los pasatiempos.

En octubre, Meta introdujo controles parentales para personalizar cómo los adolescentes interactúan con la IA en sus aplicaciones. Las nuevas funciones limitaron a los adolescentes a ver violencia extrema, desnudez y uso gráfico de drogas, inspirado en la clasificación PG-13.

Unos días después, la empresa introdujo herramientas para gestionar personajes de IA, para que los padres y tutores puedan rastrear temas y restringir el acceso a personajes específicos. Meta declaró que los padres podrían deshabilitar completamente los chats con personajes de IA.

El jueves, Wired declaró que Meta intentó restringir la recopilación de información sobre los efectos de las redes sociales en la salud mental de los adolescentes y reportes relacionados.

La empresa quiere eliminar cualquier mención de un reciente caso de suicidio de un adolescente vinculado a las redes sociales, y referencias a las finanzas de Meta, las actividades de los empleados y los años de Harvard de Mark Zuckerberg.

El movimiento de Meta para detener los personajes de IA para adolescentes ocurre justo antes de un juicio en Nuevo México, donde Meta enfrenta cargos por no proteger a los niños en sus aplicaciones.

Se alega que Meta no salvaguardó a los menores contra el acoso en línea, el tráfico y el abuso sexual en sus sitios.

Meta declaró en mociones previas al juicio que el jurado solo debería decidir si Meta violó la Ley de Prácticas Desleales de Nuevo México en relación con la seguridad infantil y la salud mental de los jóvenes. 

Otros temas como la supuesta interferencia electoral, la desinformación o las violaciones de privacidad no deberían considerarse.

Además del caso de Nuevo México, Meta enfrenta un juicio la próxima semana por causar adicción a las redes sociales. 

La demandante de 19 años, conocida como K.G.M., afirmó que el algoritmo de las plataformas causó adicción y dañó su salud mental.

El CEO Mark Zuckerberg probablemente testificará una vez que comience el juicio.

Las plataformas en línea restringen el acceso de los adolescentes

Las plataformas de redes sociales y las empresas de IA han cambiado su experiencia para adolescentes debido a demandas que alegan que contribuyeron al autolesionamiento. 

El 20 de enero, OpenAI introdujo funciones de predicción de edad en ChatGPT para detectar y mejorar las salvaguardas para usuarios más jóvenes.

El modelo de predicción de edad de ChatGPT analiza datos conductuales y de cuenta, como la edad declarada del usuario, la antigüedad de la cuenta, los horarios de actividad y las tendencias de uso.

La semana pasada, TikTok introdujo tecnología de IA en Europa para detectar y eliminar cuentas de usuarios menores de 13 años. 

El sistema de control de edad por IA examina los detalles del perfil, los clips y los hábitos de publicación para identificar cuentas de menores. La función se implementará en las próximas semanas.

Otras plataformas en línea como Instagram, YouTube, TikTok y Roblox adoptaron medidas de restricción por edad.