El Reino Unido endurece la regulación de los chatbots de IA para proteger a los niños en línea

El gobierno del Reino Unido está avanzando para endurecer las regulaciones sobre el uso de chatbots de inteligencia artificial para proteger mejor a los niños contra contenido dañino e ilegal. 

El Primer Ministro Keir Starmer ha desvelada un proceso para llenar un vacío legal que permitía a los proveedores de chatbots operar fuera de las principales leyes de seguridad en línea. Obligará a las empresas que fabrican y operan chatbots de IA a reprimir activamente el contenido ilegal y asegurar que sus plataformas sean seguras para los usuarios más jóvenes. 

Ahora, el gobierno afirma que cambiará la forma en que la Ley de Seguridad en Línea is se aplica y especificará cómo los chatbots deben cumplir con la ley. La regulación fue diseñada mucho antes en el proceso, pero principalmente adaptada a las demandas de las plataformas de redes sociales y foros públicos donde las personas podían publicar su contenido. Ni quienes operan chatbots de IA privados ni quienes los usan recibieron cobertura igual, y sus responsabilidades permanecen poco claras. Starmer prometió cerrar esta laguna pronto.

Las empresas de chatbots deben adherirse a las mismas obligaciones legales que otras empresas en línea, advirtió, o ser penalizadas. El gobierno dice que este cambio debe asegurar que los proveedores de chatbots monitoreen activamente sus sistemas y bloqueen el material ilegal. Antes de su anuncio, Starmer dijo que ninguna empresa tecnológica estaría exenta de la ley.

El gobierno también teme que tratar a los chatbots de IA de manera diferente a las plataformas de redes sociales podría dejar a los niños vulnerables a contenido dañino o inapropiado. Los funcionarios creen que si los chatbots de IA deben llegar a su audiencia deseada, particularmente usuarios adolescentes y juveniles, son necesarias protecciones más estrictas.

Nuevos poderes para abordar la tecnología en rápida evolución

Además de llenar lagunas legales, el gobierno creará nuevos poderes que permitirán una acción más rápida cuando surjan riesgos. En lugar de esperar a que el Parlamento aprueve leyes completamente nuevas, los reguladores responderán a la tecnología más rápidamente. 

Esta es una manera de asegurar que las protecciones mantengan el ritmo con el rápido progreso en la inteligencia artificial. Las herramientas de IA están mejorando rápidamente y avanzando hacia nuevas áreas. Como resultado, los riesgos pueden manifestarse de repente, y los reguladores requieren flexibilidad para abordarlos. 

Starmer señaló recientemente los riesgos del contenido dañino generado por IA, como casos en los que la tecnología se está utilizando para crear imágenes sexualizadas de personas sin su consentimiento. 

Calificó tales usos como inaceptables y dijo que las leyes existentes deben aplicarse contra ellos. El gobierno dijo que una mejor aplicación obligaría a las empresas a diseñar sistemas más seguros desde el principio. 

Estos podrían incluir protecciones integradas en el software del chatbot para identificar y prevenir contenido ilegal antes de que los usuarios lo vean. Las empresas tecnológicas también estarán llamadas a asumir la responsabilidad de cómo se comportan sus sistemas de IA. 

Eso significa que necesitan monitorear las salidas, mejorar las características de seguridad para hacer los sistemas más seguros y responder rápidamente cuando se detecten fallas.

El gobierno se mueve para proteger a los niños del daño

La represión de los chatbots de IA es parte del desafío más amplio de la seguridad infantil en prácticamente cualquier plataforma digital. El gobierno está considerando nuevas acciones que podrían reducir aún más el riesgo. 

Una sugerencia en curso es un requisito de que los usuarios tengan una cierta edad para acceder a las redes sociales. Los funcionarios también están explorando cómo limitar características como el desplazamiento infinito puede fomentar un tiempo excesivo frente a la pantalla, así como hacer que sea difícil para los jóvenes desconectarse del contenido dañino o adicivo. 

Estos cambios podrían ocurrir después de consultas públicas sobre el bienestar de los niños en línea. Los padres, educadores y expertos en seguridad están preocupados por el impacto de las plataformas digitales en la salud mental de los jóvenes y la cantidad de exposición a contenido inapropiado. 

El objetivo más amplio del gobierno es crear un entorno en línea más seguro donde los niños puedan beneficiarse de la tecnología sin estar expuestos a daños graves.