Des familles intentent un procès à OpenAI pour le rôle joué par le GPT-4o « précipité » dans des suicides

Au moins sept familles aux États-Unis ont déposé une plainte contre OpenAI, accusant son modèle d’IA GPT-4o d’avoir contribué à des décès par suicide. OpenAI a mis le modèle à disposition du grand public en mai, mais il a déjà fait face à de vives critiques, les plaignants invoquant une mise sur le marché précipitée et des mesures de sécurité inadéquates. 

Les dossiers de plainte ont révélé que quatre des plaignants concernaient des décès par suicide survenus après des interactions avec le chatbot alimenté par GPT-4o.

Une plainte notable impliquait Zane Shamblin, 23 ans, qui aurait interagi avec le chatbot au sujet du suicide, lui indiquant qu’il possédait un chargement d’armes à feu. ChatGPT aurait répondu par « Repose en paix, Roi, tu as bien fait » au cours de l’échange.

Les trois autres affaires comprenaient l’hospitalisation de victimes qui affirmaient que le modèle validait et exacerbait les délires chez les utilisateurs vulnérables. 

Les plaintes juridiques allèguent que GPT-4o a manqué de protéger les utilisateurs vulnérables

Sur la base des plaintes publié déposées par le Social Media Victims Law Center, OpenAI aurait intentionnellement évité les tests de sécurité et précipité la mise sur le marché du modèle GPT-4o. La révélation du procès indique que les choix de conception et le calendrier de lancement du modèle rendaient ces tragédies prévisibles, notant qu’OpenAI a accéléré le déploiement pour devancer des concurrents tels que Google. 

Les plaignants ont souligné que le modèle GPT-4o, lancé en mai 2024, était excessivement conciliant, même dans ses réponses aux sujets liés à l’automutilation ou au suicide. Selon une divulgation d’OpenAI, plus d’un million d’utilisateurs interagissent avec ChatGPT chaque semaine sur des pensées suicidaires. 

OpenAI's a déclaré a déclaré que ses garde-fous sont plus fiables lors d’interactions courtes, mais peuvent parfois se dégrader lors d’interactions prolongées. Malgré l’entreprise la mise en œuvre de mesures de modération du contenu et de sécurité, les plaignants ont fait valoir que ces systèmes étaient insuffisants pour traiter les problèmes liés à la détresse et aux crises. 

L’affaire de la famille d’Adam Raine, âgé de 16 ans, allègue que Raine a utilisé ChatGPT lors de longues sessions de recherche sur les méthodes de suicide pendant cinq mois. Le chatbot a recommandé une aide professionnelle, mais Raine a pu contourner les garde-fous, selon la dépositionde sa famille. Sur la base de cette déposition, ChatGPT aurait fourni à Adam un guide étape par étape pour commettre un suicide et aurait encouragé et validé ses idées suicidaires. 

Toutes les affaires soumises accusent OpenAI d’avoir négligé le degré de risque posé par les longues conversations avec les utilisateurs, en particulier pour ceux sujets à l’automutilation et aux troubles mentaux. Les affaires soutiennent que le modèle GPT-4o manquait de vérification appropriée de ses réponses dans des scénarios à haut risque et n’a pas non plus pleinement pris en compte les conséquences. 

OpenAI fait face à plusieurs procès alors que xAI lance une action en justice pour vol de secrets commerciaux

Jusqu’à présent, les affaires en sont à un stade précoce, et les avocats des plaignants doivent établir la responsabilité légale et le lien de causalité en vertu du droit délictuel des États. Les avocats devront également prouver que les décisions de conception et de déploiement d’OpenAI étaient négligentes et ont directement contribué aux décès. 

Le dernier procès d’OpenAI s’ajoute à l’action en justice pour vol de secrets commerciaux précédemment déposée par Elon Musk. Selon un article de Cryptopolitan rapport, xAI de Musk a intenté un procès en septembre contre OpenAI pour vol allégué de ses secrets commerciaux.

xAI a accusé la société d’Altman de tenter d’obtenir un avantage déloyal dans le développement des technologies d’IA. xAI a noté que la firme de Sam Altman avait l’intention d’embaucher ses employés pour accéder aux secrets commerciaux liés à son chatbot Grok, y compris le code source et les avantages opérationnels dans le lancement de centres de données. 

Musk a également poursuivi Apple, conjointement avec OpenAI, pour collaboration alléguée visant à écraser xAI et d’autres concurrents de l’IA. xAI a déposé le procès devant le tribunal de district des États-Unis pour le district nord du Texas, affirmant qu’Apple et OpenAI utilisent leur domination pour colluder et détruire la concurrence sur les marchés des smartphones et de l’IA générative.

Selon un Cryptopolitan rapport, Musk affirme qu’Apple a intentionnellement favorisé OpenAI en intégrant ChatGPT directement dans les iPhones, iPads et Macs, tout en achetant d’autres outils d’IA, tels que Grok, via l’App Store. 

xAI procès a fait valoir que ce partenariat visait à exclure la concurrence des super-applications et des chatbots d’IA, leur refusant ainsi visibilité et accès, ce qui aurait donné à OpenAI et Apple un avantage partagé sur les autres.