Le Royaume-Uni prend des mesures contre les chatbots IA pour protéger les enfants en ligne

Le gouvernement britannique s'apprête à renforcer la réglementation relative à l'utilisation des chatbots d'intelligence artificielle afin de mieux protéger les enfants contre les contenus nuisibles et illégaux. 

Le Premier ministre Keir Starmer a dévoilé un dispositif visant à combler un vide juridique qui permettait aux fournisseurs de chatbots d'opérer en dehors du cadre des principales lois sur la sécurité en ligne. Ce dispositif obligera les entreprises qui conçoivent et exploitent des chatbots d'intelligence artificielle à lutter activement contre les contenus illégaux et à garantir la sécurité de leurs plateformes pour les jeunes utilisateurs. 

Le gouvernement affirme désormais vouloir modifier l'application de la loi sur la sécurité en ligneet préciser les obligations des chatbots en la matière. La réglementation, conçue bien plus tôt, était principalement adaptée aux besoins des réseaux sociaux et des forums publics. Ni les développeurs de chatbots privés basés sur l'IA, ni leurs utilisateurs n'ont bénéficié d'une couverture équitable, et leurs responsabilités restent floues. Starmer a promis de combler prochainement cette lacune.

Les entreprises de chatbots doivent se conformer aux mêmes obligations légales que les autres entreprises en ligne, a-t-il averti, sous peine de sanctions. Le gouvernement affirme que cette modification doit garantir que les fournisseurs de chatbots surveillent activement leurs systèmes et bloquent les contenus illégaux. Avant son annonce, M. Starmer avait déclaré qu'aucune entreprise technologique ne serait exemptée de la loi.

Le gouvernement craint également qu'un traitement différent des chatbots par intelligence artificielle par rapport aux plateformes de médias sociaux n'expose les enfants à des contenus nuisibles ou inappropriés. Les autorités estiment que, pour que les chatbots atteignent leur public cible, notamment les adolescents et les jeunes adultes, des mesures de protection renforcées sont nécessaires.

De nouveaux pouvoirs pour faire face à l'évolution rapide des technologies

Outre le comblement des lacunes juridiques, le gouvernement se dotera de nouveaux pouvoirs permettant une intervention plus rapide face aux risques. Au lieu d'attendre l'adoption de lois entièrement nouvelles par le Parlement, les organismes de réglementation pourront réagir plus promptement aux évolutions technologiques. 

C’est un moyen de garantir que les protections suivent le rythme des progrès rapides de l’intelligence artificielle. Les outils d’IA s’améliorent rapidement et s’étendent à de nouveaux domaines. Par conséquent, des risques peuvent surgir soudainement, et les organismes de réglementation doivent faire preuve de flexibilité pour y faire face. 

Starmer a récemment souligné les risques liés aux contenus nuisibles générés par l'IA, notamment dans les cas où la technologie est utilisée pour créer des images sexualisées de personnes sans leur consentement. 

Il a qualifié ces usages d'inacceptables et a déclaré que les lois existantes devaient être appliquées. Le gouvernement a affirmé qu'une application plus stricte de la loi obligerait les entreprises à concevoir des systèmes plus sûrs dès le départ. 

Ces mesures pourraient inclure des protections intégrées aux logiciels de chatbot pourdentet bloquer les contenus illégaux avant même que les utilisateurs n'y aient accès. Les entreprises technologiques devront également assumer la responsabilité du comportement de leurs systèmes d'IA. 

Cela signifie qu'ils doivent surveiller les résultats, améliorer les dispositifs de sécurité pour rendre les systèmes plus sûrs et réagir rapidement en cas de détection de défauts.

Le gouvernement prend des mesures pour protéger les enfants contre les dangers

La répression contre les chatbots d'intelligence artificielle s'inscrit dans le cadre plus large du défi que représente la sécurité des enfants sur pratiquement toutes les plateformes numériques. Le gouvernement envisage de nouvelles mesures susceptibles de réduire davantage les risques. 

Une des propositions envisagées consiste à imposer un âge minimum pour accéder aux réseaux sociaux. Les autorités étudient également comment la limitation de fonctionnalités telles que le défilement infini peut encourager un temps d'écran excessif et rendre difficile pour les jeunes de se détourner de contenus nuisibles ou addictifs. 

Ces changements pourraient intervenir après des consultations publiques sur le bien-être des enfants en ligne. Parents, éducateurs et experts en sécurité s'inquiètent de l'impact des plateformes numériques sur la santé mentale des jeunes et de leur exposition à des contenus inappropriés. 

L’objectif plus large du gouvernement est de créer un environnement en ligne plus sûr où les enfants puissent bénéficier des technologies sans être exposés à des risques graves.