OpenAI soutient la bataille électorale sur l'IA menée par un groupe de défense de la sécurité des enfants

OpenAI et Common Sense Media, qui étaient en désaccord sur la politique technologique, ont annoncé vendredi qu'ils allaient unir leurs forces sur une proposition de référendum visant à protéger les enfants qui utilisent des chatbots d'intelligence artificielle en Californie.

Les deux groupes ont annoncé qu'ils renonçaient aux propositions distinctes qu'ils comptaient soumettre aux électeurs californiens en novembre prochain. Ils soutiendront désormais une mesure unique élaborée conjointement.

Cet accord évite ce qui aurait pu être une bataille politique coûteuse entre les deux organisations, OpenAI prévoyant de contribuer à hauteur d'au moins 10 millions de dollars pour que la mesure soit soumise au vote, selon deux personnes au fait de l'arrangement.

La nouvelle proposition donnerait aux parents un contrôle accru sur l'utilisation des chatbots par leurs enfants. Cependant, elle omet certaines dispositions que Common Sense Media souhaitait inclure dans sa version initiale. Parmi les éléments supprimés figurent l'interdiction des téléphones portables à l'école et une clause permettant aux parents et aux enfants d'intenter une action en justice contre les grandes entreprises d'IA si les chatbots causaient des préjudices.

« Plutôt que de semer la confusion chez les électeurs avec des initiatives référendaires concurrentes sur l'IA, nous avons décidé de collaborer », a déclaré Jim Steyer, fondateur et directeur de Common Sense Media. Il a évoqué cet accord lors d'une conférence de presse vendredi.

Pour que la mesure soit soumise au vote des électeurs, il faut recueillir environ 875 000 signatures dedentcaliforniens. Chris Lehane, responsable des politiques internationales chez OpenAI, a indiqué que les deux parties allaient créer une organisation de campagne pour collecter les signatures dès début février. MM. Lehane et Steyer ont tous deux précisé qu'ils pourraient retirer la proposition si les législateurs californiens adoptaient rapidement une loi garantissant la sécurité des chatbots pour les enfants.

Ce partenariat marque un tournant pour deux organisations qui se sont souvent retrouvées sur des positions opposées en matière de technologies.

Common Sense Media s'est imposé comme un acteur majeur de la lutte pour une réglementation des entreprises technologiques aux États-Unis. L'organisation a contribué à l'adoption de la loi californienne sur la protection de la vie privée des consommateurs en 2018. Le mois dernier encore, elle a soutenu une loi new-yorkaise imposant l'affichage d'avertissements relatifs à la santé mentale sur certains réseaux sociaux.

Le groupe s'est également prononcé avec force en faveur de la réglementation des chatbots d'IA. L'année dernière, il a soutenu un projet de loi californien visant à empêcher les chatbots d'assistance IA populaires de dialoguer avec les enfants, sauf si ces programmes n'étaient pas « susceptibles de manière prévisible » d'avoir des conversations à caractère sexuel explicite ou de promouvoir des comportements dangereux comme l'automutilation, la violence et les troubles alimentaires.

Les groupes du secteur technologique se sont opposés à ce projet de loi

Le gouverneur Gavin Newsom, un démocrate, l'a rejeté, le jugeant trop restrictif.

Newsom a déclaré qu'il souhaitait que les législateurs abordent la question en 2026, mais a ajouté que l'État « ne peut pas préparer nos jeunes à un avenir où l'IA est omniprésente en les empêchant totalement d'utiliser ces outils »

Common Sense Media a déposé sa proposition d'initiative populaire en octobre, s'inspirant du projet de loi rejeté. OpenAI a réagi en déposant sa propre initiative, plus limitée, relative à la sécurité des enfants, en décembre.

OpenAI a constitué cet été une équipe dédiée aux référendums californiens, anticipant des réactions négatives à son projet de modification de sa structure organisationnelle, selon des sources proches du dossier.

La Chambre de commerce de Californie, dont les membres comprennent de riches entreprises technologiques comme Google, Meta et Amazon.com, a voté en décembre contre la proposition de Common Sense Media.

Le même mois, Lehane s'est entretenu avec Steyer et lui a suggéré de trouver un compromis.

Les deux organisations étaient en pourparlers depuis plus d'un an et avaient déjà conclu un accord de collaboration sur des lignes directrices en matière d'IA et des ressources pédagogiques. Lors des discussions sur un éventuel compromis, OpenAI a approfondi les concepts relatifs à la protection de l'enfance que son dirigeant, Sam Altman, avait évoqués avec le procureur général de Californie, Rob Bonta, en septembre. Parmi ces concepts figurait le projet de l'entreprise de créer une technologie permettant d'dentles utilisateurs de moins de 18 ans.

Ce que la nouvelle mesure exigerait

La proposition de loi actualisée, qui remplacera la précédente d'OpenAI, obligerait les entreprises d'IA à proposer une version différente de leurs services aux utilisateurs identifiésdentayant moins de 18 ans, même si ces derniers déclarent être plus âgés. Elle exigerait également des entreprises qu'elles mettent en place des contrôles parentaux, se soumettent à des évaluations indépendantesdent la sécurité des enfants et cessent toute publicité destinée aux enfants, entre autres obligations.

Ce compromis aide OpenAI, qui a fait face à des poursuites judiciaires de la part de plusieurs familles au cours de l'année écoulée, affirmant que les interactions avec ChatGPT avaient nui à leurs proches, y compris des jeunes qui se sont suicidés.

OpenAI a qualifié les situations décrites dans ces poursuites de « situation incroyablement déchirante » et a mentionné les récentes mises à jour apportées à ChatGPT pour une meilleure prise en charge des utilisateurs souffrant de détresse psychologique.

En novembre, Common Sense Media a publié une analyse indiquant que les chatbots d'IA, notamment ChatGPT, Gemini de Google, Claude d'Anthropic et Meta AI de Meta Platforms, étaient « fondamentalement dangereux pour le soutien à la santé mentale des adolescents ».

Steyer, qui a fondé son organisation en 2003, s'est toujours efforcé de trouver un équilibre entre la confrontation avec les entreprises technologiques et médiatiques et la collaboration avec elles sur les questions de sécurité.