Un avocat a utilisé ChatGPT pour un appel en matière de meurtre. Il a inventé des témoins qui n'ont jamais existé

Un avocat du Nouveau-Mexique défendant contre une condamnation pour meurtre a utilisé ChatGPT. Il a ensuite soumis un mémoire à la Cour suprême du Nouveau-Mexique qui contenait des déclarations de police et des témoignages de témoins inventés.

La Cour suprême du Nouveau-Mexique a constaté que l'avocat Stephen Aarons n'avait pas vérifié le matériel généré par l'IA. Les juges ont déclaré que le document « contenait de faux témoignages de témoins entièrement fabriqués ».

Le tribunal a tenu Stephen en état de mépris de cour mercredi et lui a ordonné de payer 5 000 $. Sa conduite sera également soumise à un conseil de discipline des avocats. Les juges ont déclaré que Stephen avait « fait preuve d'un manque de remords et d'un manque de préoccupation pour son client ».

Stephen a déclaré qu'il avait utilisé ChatGPT l'année dernière pour condenser le dossier du procès après avoir fait appel. Il a dit ne pas réaliser à quel point les « hallucinations » de l'IA pouvaient aller ou à quel point un logiciel pouvait produire des faits avec confiance alors qu'ils ne s'étaient jamais produits.

Les juges du Nouveau-Mexique punissent Stephen après que ChatGPT ait inventé des témoignages dans l'appel du meurtre d'Oscar

Stephen, un avocat privé basé à Santa Fe, représentait Oscar Renee Sandoval. Oscar a plaidé non coupable du meurtre de la mère de ses enfants. Il a ensuite été reconnu coupable et a reçu une peine de prison à perpétuité l'année dernière. Son appel est toujours en cours.

Stephen aurait déclaré aux journalistes que l'erreur était honnête. « Je suis remords mais j'espère que le conseil de discipline tiendra compte du fait qu'il s'agissait d'une erreur honnête », a-t-il dit. « C'est une leçon apprise pour tous les professionnels qui s'appuient sur cette technologie puissante mais parfois instable ».

Un certain nombre d'avocats ont déjà fait face à des sanctions pour l'assistance IA non contrôlée. Des affaires ont été portées contre des avocats devant les tribunaux étatiques et fédéraux en raison de mémoires contenant des affaires fictives, des références et des dispositions juridiques mal citées.

La demande de Stephen se distingue dans cette catégorie car elle inclut de faux témoignages de témoins dans un processus d'appel.

L'affaire d'Oscar est passée à Kim Chavez Cook, une avocate de la défense publique du Nouveau-Mexique, le 2 septembre. Kim gère désormais l'appel tandis que l'affaire reste ouverte.

La famille de Tiru poursuit OpenAI alors que les responsables de Floride examinent 16 000 conversations ChatGPT liées à la fusillade de l'FSU

L'autre bataille judiciaire implique ChatGPT suite à la fusillade à l'Université d'État de Floride. Un avocat représentant la famille du défunt, Tiru Chabba, a poursuivi OpenAI, ChatGPT et Phoenix Ikner devant un tribunal fédéral.

L'affaire a été déposée devant le tribunal de district des États-Unis pour le district nord de la Floride dimanche. Il est affirmé qu'OpenAI aurait dû prendre des mesures dans cette situation.

Les forces de l'ordre en Floride ont publié les transcriptions de ChatGPT de Phoenix. Celles-ci contiennent des requêtes sur le fonctionnement d'une arme à feu, la couverture médiatique, l'heure de pointe à l'Université d'État de Floride (FSU), la fusillade de Columbine et comment se rendre célèbre.

L'avocat de la famille de Tiru, Bakari Sellers, a déclaré que les échanges remontent à environ 18 mois et totalisent environ 16 000 « conversations troublantes ».

« C'est la même personne qui a demandé, vous savez, comment il pouvait devenir célèbre. Il a posé des questions sur la fusillade de Columbine. Il a demandé à quelle heure il devrait se rendre sur le campus ? À quelle heure la plupart des gens y seront-ils ? » a déclaré Bakari.

« Il a littéralement utilisé OpenAI et ChatGPT comme co-conspirateur, les utilisant comme une ressource pour perpétrer un meurtre de masse », a ajouté Bakari. « Rien n'était en place pour empêcher cela de se produire et des vies ont été perdues. C'est le danger inhérent, il faut mettre en place quelque chose pour empêcher que cela ne se reproduise. »

OpenAI a rejeté toute responsabilité quant à la fusillade. Le porte-parole Drew Pusateri a déclaré que l'entreprise avait trouvé un compte associé à Phoenix après avoir pris connaissance des événements et avait partagé proactivement ces informations avec la police. Drew a précisé qu'OpenAI continuait de coopérer avec les autorités.

« La fusillade de masse de l'année dernière à l'Université d'État de Floride a été une tragédie, mais ChatGPT n'est pas responsable de ce crime terrible », a déclaré Drew.

Il a affirmé que ChatGPT a fourni des informations factuelles déjà largement disponibles via des sources publiques sur Internet et n'a pas promu de comportements illégaux ou nuisibles. Drew a également mentionné que des centaines de millions de personnes utilisent quotidiennement ChatGPT pour des raisons légitimes.

Selon Drew, OpenAI améliore constamment ses outils destinés à reconnaître les intentions des utilisateurs, à prévenir les abus et à agir en cas de préoccupations concernant la sécurité.

Cette action en justice fait suite à une affaire similaire en Floride. Le procureur général James Uthmeier a récemment révélé que le Bureau de la poursuite pénale à l'échelle de l'État avait ouvert une enquête criminelle contre OpenAI et ChatGPT.