OpenAI développe un nouveau ChatGPT spécifiquement pour les adolescents

OpenAI a annoncé qu'il développe une version dédiée de ChatGPT pour les adolescents, un mouvement qu'il juge nécessaire pour trouver un équilibre entre sécurité, vie privée et liberté.

L'entreprise basée à San Francisco, connue pour avoir popularisé l'IA, a annoncé mardi qu'elle introduirait ce qu'elle décrit comme « une expérience ChatGPT différente » pour les utilisateurs de moins de 18 ans. Cela intervient sous la pression des régulateurs, des politiciens et des parents qui réclament un examen plus approfondi de l'impact des chatbots alimentés par l'IA sur la santé mentale des jeunes.

Le nouveau ChatGPT disposera de garde-fous pour protéger les adolescents

Le PDG d'OpenAI, Sam Altman, a reconnu que l'entreprise faisait face à des compromis difficiles.

« Certains de nos principes sont en conflit », a-t-il écrit dans un article de blog. « Nous privilégions la sécurité à la vie privée et à la liberté des adolescents ; il s'agit d'une technologie nouvelle et puissante, et nous estimons que les mineurs ont besoin d'une protection significative. »

OpenAI a longtemps exigé que les utilisateurs aient au moins 13 ans, mais il entend désormais mettre en place un système de prédication d'âge plus strict pour distinguer les adultes des mineurs de moins de 18 ans. En cas d'incertitudes, il basculera automatiquement l'utilisateur vers la version spécifique aux adolescents « par excès de prudence ».

Cette expérience ne sera pas seulement plus strictement supervisée, mais placera également les parents dans un rôle plus central. Grâce à la liaison de comptes, les mères et les pères pourront gérer l'accès de leurs enfants, limiter des fonctionnalités telles que la mémoire et l'historique des chats, et définir des heures de blackout pendant lesquelles le système est inutilisable. Les parents seront également notifiés si la plateforme détecte des signes de « détresse aiguë ».

L'entreprise a divulgué d'autres limites, telles que ChatGPT pour les adolescents n'engagera pas d'échanges flirtueux, ni ne répondra aux questions sur le suicide ou l'automutilation, même dans le cadre d'écritures créatives. Si un enfant manifeste des pensées suicidaires, l'entreprise déclare qu'elle tentera d'abord d'informer les parents et, si nécessaire, d'avertir les autorités.

« Ce sont des décisions difficiles, mais après avoir parlé avec des experts, c'est ce que nous pensons être le mieux », a écrit OpenAI.

OpenAI agit dans un contexte de scrutin réglementaire accru

Ce nouveau développement proposé intervient alors que l'audition du Sénat américain pour examiner les risques que l'IA pose aux adolescents est prévue dans quelques heures. Le débat bipartite sera dirigé par le sénateur Josh Hawley, républicain du Missouri, aux côtés des sénateurs Marsha Blackburn, Katie Britt, Richard Blumenthal et Chris Coons.

La semaine dernière, dans le cadre d'un processus visant à obtenir des réponses, la Federal Trade Commission a lancé une enquête sur OpenAI, Alphabet, Meta, xAI, Snap et Character.AI. La Commission exige des informations sur les mesures prises par chacune pour protéger les mineurs. Récemment, comme rapporté par Cryptopolitan, une évaluation des risques par Common Sense Media a également qualifié Google Gemini de « risque élevé » pour les adolescents et les enfants.

Les poursuites judiciaires ajoutent à la pression, alors que des parents à travers les États-Unis ont déposé des plaintes accusant les entreprises technologiques de concevoir des produits addictifs nuisant au bien-être mental des enfants. Cette vague d'actions en justice a déjà contraint des entreprises comme YouTube à créer des alternatives adaptées aux enfants.

Bien qu'OpenAI fasse des efforts pour un ChatGPT plus sûr pour les mineurs, il n'y a aucune garantie que l'initiative réussira, car les jeunes adeptes de la technologie peuvent contourner les contrôles parentaux et chercher des versions non filtrées d'applications populaires.

« Nous devons séparer les utilisateurs de moins de 18 ans de ceux qui ne le sont pas. »

OpenAI.

« En cas de doute, nous jouerons la sécurité », a expliqué l'entreprise dans sa déclaration publique.

Les observateurs du secteur notent que malgré des efforts bien intentionnés, les adolescents trouvent souvent des « solutions de contournement » pour accéder aux plateformes grand public. La dépendance d'OpenAI aux parents pour surveiller l'activité pourrait, disent-ils, devenir un point de friction.

La nouvelle initiative s'inscrit dans un engagement plus large d'OpenAI pour introduire des protections renforcées pour les jeunes et les personnes en détresse émotionnelle d'ici la fin de l'année.

Comme l'a déclaré Altman : « Il s'agit d'une technologie nouvelle et puissante, et nous estimons que les mineurs ont besoin d'une protection significative. »