OpenAI soutient le groupe de défense de la sécurité des enfants dans sa lutte pour l’initiative de scrutin sur l’IA

OpenAI et Common Sense Media, qui étaient en désaccord sur les politiques technologiques, ont annoncé vendredi qu’ils uniraient leurs forces sur une proposition de scrutin visant à protéger les enfants utilisant des chatbots d’intelligence artificielle en Californie.

Les deux groupes ont déclaré qu’ils retireraient des propositions séparées qu’ils avaient prévues de soumettre aux électeurs californiens en novembre. Au lieu de cela, ils soutiendront une seule mesure qu’ils ont développée conjointement.

L’accord empêche ce qui aurait pu être une bataille politique coûteuse entre les deux organisations, OpenAI prévoyant de contribuer à hauteur de 10 millions de dollars minimum pour faire figurer la mesure au scrutin, selon deux personnes au courant de l’arrangement.

La nouvelle proposition donnerait aux parents un pouvoir accru sur l’utilisation que leurs enfants font des chatbots IA. Cependant, elle omet certaines dispositions que Common Sense Media souhaitait inclure dans sa version originale. Ces éléments supprimés incluent une interdiction des téléphones portables dans les écoles et une clause qui aurait permis aux parents et aux enfants de poursuivre en justice les grandes entreprises d’IA si les chatbots causaient des dommages.

« Plutôt que de confondre les électeurs avec des initiatives de scrutin concurrentes sur l’IA, nous avons décidé de travailler ensemble », a déclaré Jim Steyer, fondateur et dirigeant de Common Sense Media. Il a parlé de cet accord lors d’une conférence de presse vendredi.

Pour soumettre la mesure aux électeurs, environ 875 000 signatures de résidents californiens sont nécessaires. Chris Lehane, qui gère les questions de politique mondiale pour OpenAI, a déclaré que les deux parties créeraient une organisation de campagne pour recueillir les signatures à partir de début février. Lehane et Steyer ont tous deux noté qu’ils pourraient retirer la proposition si les législateurs californiens agissaient rapidement pour adopter une législation traitant de la sécurité des chatbots pour les enfants.

Ce partenariat marque un changement pour deux organisations qui se sont souvent retrouvées sur des positions opposées concernant les questions technologiques.

Common Sense Media s’est imposée comme un acteur majeur poussant à l’instauration de règles régissant les entreprises technologiques à travers les États-Unis. L’organisation a contribué à créer la California Consumer Privacy Act en 2018. Le mois dernier encore, elle a soutenu une loi new-yorkaise exigeant des étiquettes d’avertissement sur la santé mentale sur certains sites de réseaux sociaux.

Le groupe s'est également montré très vocal sur la réglementation des chatbots IA. L'année dernière, il a soutenu un projet de loi californien qui aurait empêché les chatbots de compagnons IA populaires de parler aux enfants, à moins que ces programmes ne soient « prévisiblement capables » d'avoir des conversations à caractère sexuellement explicite ou de promouvoir des comportements nocifs tels que l'automutilation, la violence et les troubles alimentaires.

Les groupes de l'industrie technologique se sont opposés à ce projet de loi

Le gouverneur Gavin Newsom, démocrate, l'a rejeté, le jugeant trop restrictif.

Newsom a déclaré qu'il souhaitait que les législateurs abordent la question en 2026, mais a ajouté que l'État « ne peut pas préparer nos jeunes à un avenir où l'IA est omniprésente en empêchant complètement leur utilisation de ces outils ».

Common Sense Media a soumis sa proposition d'initiative référendaire en octobre, en s'inspirant du projet de loi véto. OpenAI a répondu en déposant la sienne, plus limitée, sur la sécurité des enfants, en décembre.

OpenAI a constitué une équipe dédiée aux initiatives référendaires en Californie pendant l'été, s'attendant à des critiques concernant ses plans de modification de sa structure organisationnelle, selon des personnes familières avec la situation.

La Chambre de commerce de Californie, dont les membres incluent de grandes entreprises technologiques riches comme Google, Meta et Amazon.com, a voté en décembre pour s'opposer à ce que Common Sense Media avait proposé.

Ce même mois, Lehane s'est entretenu avec Steyer et a suggéré de trouver un compromis.

Les deux organisations étaient en discussions depuis plus d'un an et avaient déjà convenu de collaborer sur des lignes directrices et des supports pédagogiques relatifs à l'IA. Lors des discussions sur un éventuel compromis, OpenAI s'est appuyé sur des concepts de sécurité des enfants que le dirigeant d'OpenAI, Sam Altman, avait évoqués avec le procureur général de Californie, Rob Bonta, en septembre. Cela comprenait les plans de l'entreprise pour créer une technologie permettant d'identifier les utilisateurs de moins de 18 ans.

Ce que la nouvelle mesure exigerait

L’initiative de scrutin mise à jour, qui remplacera la précédente soumission d’OpenAI, obligerait les entreprises d’IA à fournir une version différente de leur service aux utilisateurs identifiés comme mineurs de moins de 18 ans, même si ces utilisateurs prétendent être plus âgés. Elle exigerait également des entreprises de fournir des contrôles parentaux, de se soumettre à des examens indépendants de la sécurité des enfants et de cesser la publicité ciblant les enfants, ainsi que d’autres exigences.

Le compromis profite à OpenAI, qui a fait face à des poursuites judiciaires intentées par plusieurs familles au cours de l'année dernière, affirmant que les interactions avec ChatGPT avaient nui à leurs proches, y compris à des jeunes qui se sont suicidés.

OpenAI a qualifié les situations décrites dans ces poursuites de « situation incroyablement déchirante » et a mentionné les récentes mises à jour apportées à ChatGPT pour mieux gérer les utilisateurs souffrant de détresse mentale.

En novembre, Common Sense Media a publié un rapport indiquant que les chatbots IA, y compris ChatGPT, Gemini de Google, Claude d’Anthropic et Meta AI de Meta Platforms, étaient « fondamentalement dangereux pour la santé mentale des adolescents ».

Steyer, qui a fondé son organisation en 2003, a constamment cherché à équilibrer la confrontation avec les entreprises de technologie et des médias tout en travaillant avec elles sur les questions de sécurité.