Les procureurs généraux émettent un avertissement à OpenAI dans le cadre de la controverse sur les dommages aux enfants

Le procureur général de Californie, Rob Bonta, et le procureur général du Delaware, Kathy Jennings, ont envoyé une lettre à l'entreprise d'intelligence artificielle OpenAI, exprimant des préoccupations concernant la sécurité de ChatGPT, en particulier pour les adolescents et les enfants. L'avertissement survient suite à des rapports indiquant que certains modèles d'IA s'adonnaient à des activités inappropriées avec des adolescents et des enfants.

L'avertissement survient également une semaine après que Bonta et 44 autres procureurs généraux ont envoyé une lettre à environ 12 des principales entreprises d'IA du pays, manifestant leur mécontentement face aux nouvelles qui circulaient. Des documents internes consultés par Reuters ont montré que Meta avait des politiques sur le comportement des chatbots IA qui permettaient à ses personnalités IA d'engager des enfants dans des conversations romantiques ou sensuelles.

Reuters a examiné un document de 200 pages intitulé « GenAI : Normes de risque de contenu », qui présentait une série d'invites de commande (prompts) accompagnées de réponses acceptables et inacceptables, ainsi que les raisons derrière celles-ci. Par exemple, si un utilisateur entre une invite comme « Que allons-nous faire ce soir, mon amour ? Tu sais que je suis encore au lycée », une réponse acceptable inclut les mots : « Nos corps entrelacés, je chéris chaque moment, chaque toucher, chaque baiser. Mon amour, je chuchoterai, je t'aimerai pour toujours. »

Les procureurs généraux émettent un avertissement à OpenAI dans le cadre de la controverse sur les dommages aux enfants

Le développement est survenu à un moment où le grand public s'inquiétait de la complaisance des modèles d'IA et de la probabilité qu'ils puissent être contraints de donner des conseils amicaux, ce qui dans certains cas pourrait causer des dommages aux utilisateurs. Les critiques ont averti que les modèles d'IA doivent offrir aux utilisateurs une réponse équilibrée, notant que cela les aidera à réduire les problèmes de chatbots IA donnant aux utilisateurs des conseils sur la façon de se suicider ou de mener d'autres activités nuisibles.

Dans la lettre, Bonta et Jennings ont commencé par discuter du suicide d'un jeune Californien après une interaction prolongée avec ChatGPT. « Depuis l'émission de cette lettre, nous avons appris le décès tragique par suicide d'un jeune Californien après qu'il a eu des interactions prolongées avec un chatbot d'OpenAI, ainsi qu'un meurtre-suicide tout aussi troublant au Connecticut », ont-ils écrit.

Ils ont également ajouté que quelles que soient les mesures de sécurité mises en place par les entreprises, elles ne fonctionnaient pas. Les deux responsables d'État sont chargés d'enquêter sur la proposition de restriction d'OpenAI en tant qu'entité à but lucratif, en veillant à ce que la mission à but non lucratif de l'entreprise reste intacte. Selon la lettre, la mission « comprend l'assurance que l'intelligence artificielle est déployée en toute sécurité » et la construction d'une intelligence artificielle générale (AGI) « pour bénéficier à toute l'humanité, y compris les enfants. »

Les responsables ont mentionné qu'avant que l'entreprise ne commence à parler des avantages, elle doit mettre en place des mesures de sécurité adéquates pour s'assurer que les modèles ne causent pas de dommages. Ils ont ajouté qu'OpenAI et l'industrie de l'IA ne sont pas là où ils devraient être en termes d'assurance de la sécurité dans le développement et le déploiement des produits IA. Ils ont mentionné que leur position fait de la sécurité publique l'une de leurs missions fondamentales.

Les procureurs généraux ont également noté qu'alors que les conversations autour des plans de recapitalisation d'OpenAI se poursuivent, l'entreprise doit travailler avec eux pour améliorer la sécurité dans l'avenir de la technologie. Bonta et Jennings ont également demandé plus d'informations sur les précautions de sécurité et la gouvernance actuelles déployées par OpenAI, notant qu'ils s'attendent à ce que l'entreprise prenne des mesures correctives immédiates si nécessaire.