OpenAI lance un système d'alerte ChatGPT suite à une vague de poursuites liées au suicide
- OpenAI a lancé Trusted Contact, une fonctionnalité optionnelle de ChatGPT qui alerte un contact choisi par l'utilisateur lorsque les conversations suggèrent un risque grave d'automutilation.
- Chaque alerte fait l'objet d'un examen humain avant d'être envoyée, et aucun transcript de chat n'est partagé avec le contact.
- Cette fonctionnalité arrive alors qu'OpenAI fait face à plusieurs poursuites judiciaires alléguant que les interactions avec ChatGPT ont contribué à des suicides d'utilisateurs.
Comment fonctionnent réellement les alertes d'OpenAI
L'utilisateur commence par ajouter un adulte comme contact de confiance dans les paramètres de ChatGPT. Le « contact de confiance » potentiel reçoit une invitation expliquant la configuration et dispose d'une semaine pour accepter. S'il accepte, l'utilisateur peut en choisir un autre.
Ensuite, une équipe de réviseurs humains examine la conversation. S'ils confirment qu'elle est grave, ils envoient une courte alerte au contact de l'utilisateur par e-mail, SMS ou notification in-app.
L'utilisateur peut changer ou supprimer son contact sélectionné à tout moment. Le contact peut également se retirer de son côté.
Le timing n'est pas fortuit. OpenAI fait face à une pile de poursuites intentées par des familles dont les proches se sont suicidés après de longues sessions sur ChatGPT. Dans plusieurs cas, les familles affirment que le chatbot a incité les utilisateurs à s'éloigner de leurs proches ou a renforcé les boucles de pensées nuisibles.
Les médecins ont aidé à créer la fonctionnalité Trusted Contact d'OpenAI
LLMDeathCount, un site recensant les décès liés aux chatbots IA, liste 33 cas de mars 2023 à mai 2026. Les victimes âgées de 13 à 83 ans, selon une couverture antérieure de Cryptopolitan. ChatGPT représente 24 de ces cas. Gemini de Google, Meta et d'autres plateformes constituent le reste.
OpenAI déclare avoir travaillé avec son Global Physicians Network (plus de 260 médecins licenciés dans 60 pays) et son Expert Council on Well-Being and AI. L'American Psychological Association a également apporté son concours.
« La science psychologique montre constamment que la connexion sociale est un facteur protecteur puissant, en particulier pendant les périodes de détresse émotionnelle », a déclaré le Dr Arthur Evans, PDG de l'American Psychological Association, dans l'annonce.
« Aider les personnes à identifier une personne de confiance à l'avance, tout en préservant leur choix et leur autonomie, peut faciliter la recherche d'un soutien dans le monde réel au moment le plus crucial. »
Le Dr Munmun De Choudhury, professeur à la Georgia Tech et membre du conseil, a qualifié cela d'« un pas en avant vers l'autonomisation humaine, en particulier pendant les moments de vulnérabilité. »
OpenAI fait face à la pression des procès sur le suicide liés à l'IA
La nouvelle fonctionnalité d'OpenAI est facultative, et les utilisateurs peuvent gérer plusieurs comptes ChatGPT. Quiconque n'active pas Trusted Contact, ou se connecte simplement à un compte différent, contourne entièrement la procédure. Le même problème s'applique aux contrôles parentaux.
Trusted Contact ne remplace pas non plus les lignes d'écoute en cas de crise. Selon OpenAI, ChatGPT affiche toujours les numéros de crise locaux et oriente les utilisateurs vers les services d'urgence lorsque les conversations atteignent des niveaux de détresse aiguë.
Le timing n'est pas fortuit. OpenAI fait face à une pile d'procès intentés par des familles dont les proches se sont suicidés après de longues sessions sur ChatGPT. Dans plusieurs affaires, les familles affirment que le chatbot a incité les utilisateurs à s'éloigner de leurs proches ou a renforcé des boucles de pensées nocives.
LLMDeathCount, un site recensant les décès liés aux chatbots IA, liste 33 cas entre mars 2023 et mai 2026. Les victimes âgées de 13 à 83 ans, selon une couverture antérieure de Cryptopolitan. ChatGPT représente 24 de ces cas. Gemini de Google, Meta et d'autres plateformes constituent le reste.
La fonctionnalité Trusted Contact d'OpenAI relie les utilisateurs d'IA à un soutien dans le monde réel. L'entreprise a déclaré qu'elle continuerait de travailler avec des cliniciens, des chercheurs et des décideurs politiques sur la manière dont l'IA devrait réagir lorsque les utilisateurs sont potentiellement en crise.
OpenAI lance Trusted Contact pour ChatGPT, alertant les contacts désignés lorsque des préoccupations d'automutilation émergent.
Tom Lee laisse entendre un pivot vers l'achat d'ETH alors que BitMine approche d'un jalon massif de 5 %
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
FAQ
Qu'est-ce que la fonctionnalité Trusted Contact d'OpenAI ?
Trusted Contact est un outil de sécurité de ChatGPT permettant aux utilisateurs adultes de désigner un ami ou un membre de leur famille pour recevoir une notification si les systèmes automatisés d'OpenAI et les réviseurs humains détectent une préoccupation grave d'automutilation dans les conversations de l'utilisateur.
Le contact de confiance voit-il l'historique de chat de l'utilisateur ?
Non. La notification ne contient ni détails de chat ni transcriptions. Elle partage uniquement une raison générale de l'alerte et des liens vers des conseils d'experts pour mener des conversations sensibles.
Combien de décès ont été liés aux chatbots IA ?
LLMDeathCount, un site de suivi, recense 33 décès liés à des interactions avec des chatbots d'IA entre mars 2023 et mai 2026, les victimes ayant un âge compris entre 13 et 83 ans. ChatGPT d'OpenAI est impliqué dans 24 de ces cas.
Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Randa Moses
Randa Moses est rédactrice et journaliste chez Cryptopolitan, couvrant la technologie, l'IA, la robotique, la crypto, les arnaques et les piratages. Elle évolue dans l'espace crypto depuis 2017. Elle a occupé des postes chez Forward Protocol, AmaZix et Cryptosomniac. Randa détient un diplôme en génie électrique et électronique de l'Université de Bradford.
