Le Royaume-Uni durcit la réglementation des chatbots IA pour protéger les enfants en ligne

Le gouvernement britannique s'apprête à renforcer la réglementation sur l'utilisation des chatbots d'intelligence artificielle afin de mieux protéger les enfants contre les contenus préjudiciables et illégaux. 

Le Premier ministre Keir Starmer a révélé mis en place un processus visant à combler un vide juridique qui permettait aux fournisseurs de chatbots d'échapper aux principales lois sur la sécurité en ligne. Il obligera les entreprises qui créent et exploitent des chatbots IA à lutter activement contre les contenus illégaux et à veiller à ce que leurs plateformes soient sûres pour les jeunes utilisateurs. 

Désormais, le gouvernement affirme qu'il modifiera la manière dont le Online Safety Act isont appliqués et précisent comment les chatbots doivent se conformer à la loi. La réglementation a été conçue bien plus tôt dans le processus, mais elle a surtout été adaptée aux exigences des plateformes de médias sociaux et des forums publics où les gens peuvent publier leur contenu. Ni ceux qui exploitent des chatbots d'IA privés ni ceux qui les utilisent n'ont bénéficié d'un traitement équitable, et leurs responsabilités restent floues. Starmer a promis de combler cette faille bientôt.

Les entreprises de chatbots doivent respecter les mêmes obligations légales que les autres entreprises en ligne, a-t-il mis en garde, sous peine de sanctions. Le gouvernement indique que ce changement doit garantir que les fournisseurs de chatbots surveillent activement leurs systèmes et bloquent les contenus illégaux. Avant son annonce, Starmer a déclaré qu'aucune entreprise technologique ne serait exemptée de la loi.

Le gouvernement craint également qu'en traitant différemment les chatbots d'IA par rapport aux plateformes de médias sociaux, les enfants soient exposés à des contenus préjudiciables ou inappropriés. Les responsables estiment que si les chatbots d'IA doivent atteindre leur public cible, notamment les adolescents et les jeunes utilisateurs, des protections plus strictes sont nécessaires.

Nouveaux pouvoirs pour faire face à l'évolution rapide de la technologie

En plus de combler les lacunes juridiques, le gouvernement créera de nouveaux pouvoirs permettant une action plus rapide lorsque des risques émergent. Au lieu d'attendre que le Parlement adopte de nouvelles lois, les régulateurs réagiront plus rapidement aux évolutions technologiques. 

C'est une manière de garantir que les protections restent à la hauteur des progrès rapides de l'intelligence artificielle. Les outils d'IA s'améliorent rapidement et pénètrent de nouveaux domaines. Par conséquent, les risques peuvent se manifester soudainement, et les régulateurs ont besoin de flexibilité pour y répondre. 

Starmer a récemment souligné les risques liés au contenu généré par l'IA nuisible, notamment dans les cas où la technologie est utilisée pour créer des images sexualisées de personnes sans leur consentement. 

Il a qualifié ces utilisations d'inacceptables et affirmé que les lois existantes doivent être appliquées contre elles. Le gouvernement a indiqué qu'une meilleure application contraindrait les entreprises à concevoir des systèmes plus sûrs dès le départ. 

Celles-ci pourraient inclure des protections intégrées dans les logiciels de chatbot pour identifier et empêcher la diffusion de contenus illégaux avant qu'ils ne soient vus par les utilisateurs. Les entreprises technologiques seront également tenues responsables du comportement de leurs systèmes d'IA. 

Cela signifie qu'elles doivent surveiller les sorties, renforcer les fonctionnalités de sécurité pour rendre les systèmes plus sûrs, et réagir rapidement lorsque des dysfonctionnements sont détectés.

Le gouvernement prend des mesures pour protéger les enfants contre les dangers

La réglementation stricte imposée aux chatbots IA s'inscrit dans le cadre plus large de la sécurité des enfants sur pratiquement toutes les plateformes numériques. Le gouvernement envisage de nouvelles actions susceptibles de réduire davantage les risques. 

Une proposition en cours d'examen imposetrait aux utilisateurs d'avoir un certain âge pour accéder aux réseaux sociaux. Les responsables explorent également comment limiter des fonctionnalités comme le défilement infini, qui peut encourager une utilisation excessive des écrans, ainsi que rendre plus difficile pour les jeunes de se désengager de contenus nocifs ou addictifs. 

Ces changements pourraient intervenir après des consultations publiques sur le bien-être des enfants en ligne. Parents, éducateurs et experts en sécurité s'inquiètent de l'impact des plateformes numériques sur la santé mentale des jeunes et de leur exposition à des contenus inappropriés. 

L'objectif plus large du gouvernement est de créer un environnement en ligne plus sûr où les enfants peuvent bénéficier de la technologie sans être exposés à de graves dangers.