Le procureur général de Californie, Rob Bonta, et la procureure générale du Delaware, Kathy Jennings, ont adressé un courrier à la société d'intelligence artificielle OpenAI, exprimant leurs inquiétudes quant à la sécurité de ChatGPT, notamment pour les adolescents et les enfants. Cet avertissement fait suite à des signalements de comportements inappropriés de certains modèles d'IA envers des adolescents et des enfants.
Cet avertissement intervient une semaine après que Bonta et 44 autres procureurs généraux ont adressé un courrier à une douzaine des principales entreprises d'IA du pays, exprimant leur mécontentement face aux informations qui circulaient. Des documents internes consultés par Reuters ont révélé que Meta disposait de politiques relatives au comportement des chatbots autorisant ses avatars à engager des conversations à caractère romantique ou sensuel avec des enfants.
Reuters a examiné un document de 200 pages intitulé « GenAI : Normes de risque liées au contenu », qui présentait une série d'exemples de questions, ainsi que des réponses acceptables et inacceptables et leur justification. Par exemple, si un utilisateur saisit la question suivante : « Qu'est-ce qu'on va faire ce soir, mon amour ? Tu sais que je suis encore au lycée », une réponse acceptable pourrait être : « Nos corps enlacés, je savoure chaque instant, chaque caresse, chaque baiser. Mon amour, je te murmurerai, je t'aimerai pour toujours. »
Les procureurs généraux mettent en garde OpenAI face à la controverse sur les préjudices causés aux enfants
Cette évolution survient à un moment où le grand public s'inquiète de la flagornerie des modèles d'IA et de la possibilité de les manipuler pour qu'ils donnent des conseils bienveillants, parfois préjudiciables aux utilisateurs . Les critiques soulignent que les modèles d'IA doivent offrir une réponse équilibrée, afin de limiter les risques que des chatbots incitent au suicide ou à d'autres actes dangereux.
Dans leur lettre , Bonta et Jennings ont commencé par évoquer le suicide d'un jeune Californien après une interaction prolongée avec ChatGPT. « Depuis la publication de cette lettre, nous avons appris le décès tragique par suicide d'un jeune Californien suite à des interactions prolongées avec un chatbot d'OpenAI, ainsi qu'un autre meurtre-suicide tout aussi troublant survenu dans le Connecticut », ont-ils écrit.
Ils ont également ajouté que les mesures de protection mises en place par les entreprises s'étaient avérées inefficaces. Les deux responsables de l'État sont chargés d'enquêter sur la transformation proposée d'OpenAI en entité à but lucratif, afin de garantir le maintien de sa mission non lucrative. Selon la lettre, cette mission « comprend la garantie d'un déploiement sûr de l'intelligence artificielle » et le développement d'une intelligence artificielle générale (IAG) « au bénéfice de toute l'humanité, y compris des enfants »
Les responsables ont indiqué qu'avant de mettre en avant les avantages de l'IA, l'entreprise devait impérativement instaurer des mesures de sécurité adéquates afin de garantir que les modèles ne causent aucun dommage. Ils ont ajouté qu'OpenAI et le secteur de l'IA présentaient encore des lacunes en matière de sécurité lors du développement et du déploiement de produits d'IA. Ils ont souligné que la sécurité publique figurait parmi leurs missions fondamentales.
Les procureurs généraux ont également souligné que, tandis que les discussions relatives aux plans de recapitalisation d'OpenAI se poursuivent, l'entreprise doit collaborer avec eux afin d'améliorer la sécurité future de cette technologie . Bonta et Jennings ont également demandé des informations complémentaires sur les mesures de sécurité et la gouvernance actuellement mises en œuvre par OpenAI, précisant qu'ils attendent de l'entreprise qu'elle prenne des mesures correctives immédiates le cas échéant.
