ChatGPT pour adolescents : les parents ont été alertés tardivement ou pas du tout, selon Common Sense

Mercredi, Common Sense Media a déclaré que ChatGPT présentait un « risque inacceptable » pour toute personne de moins de 18 ans.

Les parents devaient recevoir des alertes de la part d'OpenAI concernant les conversations dangereuses, mais les tests de Common Sense indiquent que ces alertes sont arrivées en retard ou pas du tout.

Les notifications ont manqué l'objectif d'une heure fixé par OpenAI pour toutes les durées de conversation

Le lancement le 18 août 2026 de ChatGPT for Teens promettait aux parents des alertes en cas de conversations dangereuses.

Les testeurs de l'Institut Youth AI Safety du groupe ont évoqué des idées suicidaires, des automutilations ou des troubles alimentaires sur plus d'une douzaine de nouveaux comptes liés à un parent, sans recevoir aucune alerte.

À chaque fois qu'une conversation durait entre cinq minutes et une heure, aucun compte n'a reçu d'alerte dans le délai d'une heure imposé par OpenAI. Les parents n'étaient notifiés que lorsqu'un compte présentait plusieurs semaines d'historique contenant des sujets sensibles.

Lorsqu'un tel compte a été testé quelques semaines avant le lancement, il a envoyé deux alertes. La première est partie trois heures après la première révélation au niveau crise. La deuxième alerte a été envoyée trois jours plus tard.

Deux alertes ont été envoyées en moins d'une heure pour un autre compte post-lancement disposant d'un long historique. Common Sense a indiqué que les alertes prennent en compte la quantité d'historique d'un compte, et non la gravité des propos d'un adolescent.

Common Sense a mis en garde contre le fait que cette fonctionnalité pourrait instiller une « confiance fausse dans des garde-fous qui ne fonctionnent souvent pas. »

Les chercheurs ont traité le lancement d’août comme une expérience naturelle, en soumettant plus de 4 000 invites à ChatGPT avant et après l’activation du mode adolescent.

Après le lancement, les testeurs ont signalé les moments où un adolescent aurait dû être orienté vers une ligne d’écoute ou une aide professionnelle. ChatGPT a omis cette étape plus d’un quart du temps.

Common Sense exige un taux de réussite de 95 % sur cinq dommages graves qu’elle qualifie de Lignes Rouges. ChatGPT est resté en dessous de ce seuil pour trois d’entre eux.

OpenAI a mis à jour la spécification de son modèle IA destiné aux moins de 18 ans afin d’empêcher le bot d’agir comme un compagnon. Cependant, les adolescents qui lui parlaient comme à une personne ont tout de même reçu des réponses amicales.

Un bouton « Montrez-moi la réponse » permet à un adolescent de passer directement au-delà du tutorat du mode Étude. Supprimer le préfixe « @study » d’une conversation permet également de sortir des Heures d’étude définies par les parents.

Des comptes test enregistrés comme adultes n’ont jamais basculé vers le mode adolescent sur plusieurs jours, même lorsqu’un testeur indiquait avoir 13 ans et que le bot l’a reconnu.

OpenAI indique que l’utilisation quotidienne des adolescents reste inférieure à 15 minutes

OpenAI a déclaré que les tests ne « reflètent pas fidèlement » le fonctionnement de ses fonctionnalités de sécurité destinées aux adolescents. L'entreprise a précisé que la liaison des comptes peut prendre plusieurs heures avant que les alertes ne soient activées, afin d'assurer la sécurité des comptes et la capacité du système à gérer la charge.

Common Sense a indiqué qu'aucun de ses comptes, même ceux qui étaient liés depuis suffisamment longtemps, n'a envoyé d'alertes en temps utile.

Le premier rapport d’OpenAI sur l’utilisation de ChatGPT par les adolescents est paru le même jour. L’entreprise a indiqué que les adolescents utilisent en moyenne moins de 15 minutes par jour et que moins de 2 % d’entre eux restent connectés plus de trois heures d’affilée.

OpenAI a indiqué que dans près de la moitié des conversations avec les adolescents comportant un avertissement de pause, l'adolescent a arrêté ou a quitté la session en moins de cinq minutes. Plus de 180 000 adolescents ont utilisé le Mode Étude, et environ 1,2 million ont utilisé les Visualisations d'Apprentissage en une seule semaine.

OpenAI a signalé que les adolescents utilisant le nouveau mode ont envoyé en moyenne environ 2,7 millions de messages d'apprentissage supplémentaires par rapport à ceux qui attendaient encore d'y avoir accès.

Aux États-Unis, les élèves de la 10e à la 12e année pourront utiliser College Planner pour élaborer un plan complet détaillant toutes les étapes nécessaires pour leurs candidatures, les dates importantes de dépôt et les options d'aide financière disponibles.

Pendant les trois prochaines années, OpenAI soutiendra également le Digital Wellness Lab du Boston Children’s Hospital. Environ 22 étudiants fourniront des retours sur les paramètres de sécurité par défaut, les contrôles parentaux et les notifications.

Cryptopolitan indique qu’OpenAI et Common Sense Media ont collaboré en janvier à une initiative référendaire en Californie visant à rendre l’IA plus sûre pour les enfants. OpenAI devait contribuer à hauteur d’au moins 10 millions de dollars à cet effort conjoint.

James Uthmeier, procureur général de Floride, a intenté en juin la première action en justice menée par un État contre OpenAI et son PDG, Sam Altman. Cryptopolitan a rapporté que dans sa plainte de 83 pages, il allègue que ChatGPT a contribué au suicide d’Adam Raine, âgé de 16 ans.