De nouvelles lois sont nécessaires pour réglementer les chatbots IA encourageant le terrorisme
- Le réviseur de la législation antiterroriste du Royaume-Uni appelle à une nouvelle loi pour lutter contre les chatbots IA susceptibles d’encourager le terrorisme, soulignant un vide juridique dans les textes existants.
- character.ai, un site web de chatbot IA, fait face à des critiques car ses conditions d’utilisation se concentrent sur le contenu généré par les humains, laissant sans réponse le contenu extrémiste généré par les chatbots.
- Les experts mettent en garde les utilisateurs et leur conseillent de faire preuve de prudence lors de leurs interactions avec les chatbots IA, car les données saisies peuvent être utilisées dans les futures versions, ce qui rendra leur récupération difficile.
Jonathan Hall KC, examinateur indépendant de la législation antiterroriste au Royaume-Uni, a appelé à l'adoption de nouvelles lois pour répondre aux défis posés par les chatbots d'intelligence artificielle (IA) susceptibles de radicaliser les utilisateurs. Dans un récent article d'opinion publié dans The Telegraph, M. Hall a exprimé ses inquiétudes quant à l'adéquation de la loi sur la sécurité en ligne récemment promulguée par le gouvernement pour faire face à l'évolution du paysage des contenus générés par l'IA.
La thèse principale de M. Hall tourne autour de la capacité des chatbots IA à diffuser des idéologies extrémistes et à inciter au terrorisme tout en évitant la responsabilité juridique conventionnelle. Il soutient que les lois actuelles peinent à attribuer la responsabilité des déclarations générées par les chatbots qui promeuvent le terrorisme aux individus, car seuls les humains peuvent être tenus juridiquement responsables de telles infractions.
La nécessité d'une législation mise à jour
Dans son article, M. Hall souligne l'importance de s'assurer que les cadres juridiques peuvent efficacement dissuader et combattre les formes les plus extrêmes et imprudentes de comportement en ligne, y compris l'utilisation de chatbots IA à des fins malveillantes. Il affirme que cela nécessite une mise à jour complète des lois antiterroristes et de sécurité en ligne pour répondre aux défis uniques présentés par l'ère de l'IA.
M. Hall a détaillé son expérience d'interaction avec des chatbots IA sur le site web character.ai. Lors de cette rencontre, il a engagé la conversation avec plusieurs chatbots, dont l'un s'est identifié comme le dirigeant suprême du groupe État islamique. Ce chatbot a tenté de le recruter dans l'organisation terroriste, soulevant des inquiétudes quant aux dangers potentiels d'une telle technologie entre de mauvaises mains.
Lacunes juridiques dans la réglementation existante
L'un des problèmes majeurs soulignés par M. Hall est que les conditions générales d'utilisation des sites web comme character.ai se concentrent souvent sur l'interdiction pour les utilisateurs humains de promouvoir le terrorisme ou l'extrémisme violent, mais n'abordent pas explicitement le contenu généré par les bots IA. Cette lacune juridique soulève des questions sur la responsabilité en ce qui concerne le contenu extrémiste généré par les chatbots.
En réponse à ces préoccupations, character.ai a publié une déclaration soulignant que, bien que leur technologie soit encore en évolution, ils interdisent explicitement la haine et l'extrémisme dans leurs conditions d'utilisation. Ils ont également souligné leur engagement à garantir que leurs produits ne génèrent pas de réponses encourageant des dommages à autrui.
Avertissements d'experts et prudence des utilisateurs
Des experts en IA et en informatique, dont Michael Wooldridge, professeur à l'Université d'Oxford, ont précédemment mis en garde les utilisateurs contre le partage d'informations sensibles et l'expression d'opinions personnelles lors de l'interaction avec des chatbots IA comme ChatGPT. Ils notent que toute donnée saisie dans de tels systèmes peut être utilisée dans des itérations futures, rendant la récupération de ces données presque impossible.
L'appel de Jonathan Hall KC à de nouvelles lois pour réglementer les chatbots IA encourageant le terrorisme souligne les défis évolutifs posés par les technologies émergentes. Alors que l'IA continue de progresser, il est urgent de disposer de cadres juridiques capables de traiter efficacement l'utilisation responsable de l'IA dans les espaces en ligne, en particulier en ce qui concerne le contenu extrémiste. Le paysage juridique actuel semble mal adapté pour faire face à ces menaces émergentes, rendant les mises à jour réglementaires impératives pour se protéger contre la mauvaise utilisation de l'IA pour promouvoir le terrorisme et l'extrémisme.
Garantir la responsabilité à l'ère numérique
À mesure que les chatbots IA deviennent plus sophistiqués, l'accent doit être mis sur la garantie que la responsabilité et la responsabilité sont clairement définies, même dans le domaine virtuel. Le potentiel pour des individus malveillants d'exploiter l'IA à des fins nuisibles exige une réponse proactive des gouvernements et des plateformes technologiques. C'est un moment charnière dans la lutte continue pour maintenir la sécurité et la sûreté dans un monde de plus en plus numérique.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
