Un avocat a utilisé ChatGPT pour un appel dans une affaire de meurtre. Ce logiciel a inventé des témoins qui n'ont jamais existé

Un avocat du Nouveau-Mexique, défendant un accusé condamné pour meurtre, a utilisé ChatGPT. Il a ensuite soumis à la Cour suprême du Nouveau-Mexique un mémoire contenant de fausses déclarations de police et de faux témoignages.

La Cour suprême du Nouveau-Mexique a jugé que l'avocat Stephen Aarons n'avait pas vérifié les informations générées par l'intelligence artificielle. Les juges ont déclaré que le document « contenait de faux témoignages de témoins entièrement inventés »

Le tribunal a reconnu Stephen coupable d'outrage au tribunal mercredi et l'a condamné à payer 5$ . Son comportement sera également examiné par le conseil de discipline des avocats. Les juges ont déclaré que Stephen avait « fait preuve d'un manque de remords et d'un manque de considération pour son client »

Stephen a déclaré avoir utilisé ChatGPT l'année dernière pour condenser le dossier du procès après avoir interjeté appel. Il a ajouté qu'il n'avait pas réalisé à quel point les « hallucinations » de l'IA pouvaient aller loin ni avec quelle assurancedentlogiciel pouvait produire des faits qui ne s'étaient jamais produits.

Des juges du Nouveau-Mexique sanctionnent Stephen après que ChatGPT a fabriqué de faux témoignages dans le cadre de l'appel d'Oscar pour meurtre

Stephen, un avocat privé de Santa Fe, a représenté Oscar Renee Sandoval. Oscar a plaidé non coupable du meurtre de la mère de ses enfants. Il a ensuite été reconnu coupable et condamné à la prison à vie l'année dernière. Son appel est toujours en cours.

Stephen aurait déclaré aux journalistes qu'il s'agissait d'une erreur involontaire. « Je suis désolé, mais j'espère que le conseil de discipline tiendra compte du fait qu'il s'agissait d'une erreur sincère », a-t-il affirmé. « C'est une leçon pour tous les professionnels qui utilisent cette technologie puissante, mais parfois instable. »

Plusieurs avocats ont déjà été sanctionnés pour avoir eu recours à une assistance par intelligence artificielle incontrôlée. Des poursuites ont été engagées contre des avocats devant les tribunaux d'État et fédéraux en raison de mémoires contenant de fausses affaires, de fausses références et des citations erronées de dispositions légales.

La demande de Stephen se distingue dans cette catégorie car elle inclut de faux témoignages de témoins dans le cadre d'une procédure d'appel.

Le dossier d'Oscar a été confié à Kim Chavez Cook, avocate commise d'office du Nouveau-Mexique, le 2 septembre. Kim s'occupe actuellement de l'appel, l'affaire restant ouverte.

La famille de Tiru poursuit OpenAI en justice tandis que les autorités de Floride examinent 16 000 conversations ChatGPT liées à la fusillade de l'université d'État de Floride

L'autre bataille judiciaire concerne ChatGPT suite à la fusillade survenue à l'université d'État de Floride. L'avocate Tiru Chabba, représentant la famille de la victime, a porté plainte contre OpenAI, ChatGPT et Phoenix Ikner devant un tribunal fédéral.

Une plainte a été déposée dimanche auprès du tribunal de district des États-Unis pour le district nord de la Floride. Il est reproché à OpenAI de ne pas avoir pris de mesures dans cette affaire.

Les autorités policières de Floride ont publié les transcriptions des conversations ChatGPT de Phoenix. Celles-ci contiennent des questions sur le maniement des armes à feu, la couverture médiatique, les heures de pointe sur le campus de la FSU, la tuerie de Columbine et les moyens de se faire une réputation sulfureuse.

L'avocat de la famille de Tiru, ​​Bakari Sellers, a déclaré que les échanges remontent à environ 18 mois et totalisent environ 16 000 « conversations inquiétantes »

« C’est la même personne qui demandait, vous savez, comment devenir tristement célèbre ? Il posait des questions sur la fusillade de Columbine. Il demandait à quelle heure il devait aller sur le campus ? À quelle heure la plupart des gens y seraient-ils ? », a déclaré Bakari.

« Il a littéralement utilisé OpenAI et ChatGPT comme complice, s'en servant comme d'une ressource pour perpétrer un massacre », a ajouté Bakari. « Rien n'était prévu pour empêcher cela, et des vies ont été perdues. C'est le danger inhérent : il faut absolument mettre en place des mécanismes de protection. »

OpenAI a décliné toute responsabilité dans la fusillade. Son porte-parole, Drew Pusateri, a déclaré que l'entreprise avait identifié un compte vraisemblablement lié à Phoenix après avoir pris connaissance des faits et avait immédiatement partagé ces informations avec la police. Il a ajouté qu'OpenAI continuait de coopérer avec les autorités.

« La fusillade de masse survenue l'an dernier à l'Université d'État de Floride a été une tragédie, mais ChatGPT n'est pas responsable de ce crime terrible », a déclaré Drew.

Il a affirmé que ChatGPT répondait en s'appuyant sur des informations factuelles déjà largement disponibles sur Internet et ne faisait pas la promotion de comportements illégaux ou nuisibles. Drew a également mentionné que des centaines de millions de personnes utilisent quotidiennement ChatGPT à des fins légitimes.

Selon Drew, OpenAI améliore constamment ses outils qui permettent de reconnaître les intentions des utilisateurs, de prévenir les abus et d'intervenir en cas de problème de sécurité.

Cette action en justice fait suite à une affaire similaire en Floride. Le procureur général James Uthmeier a récemment révélé que le Bureau du procureur de l'État avait ouvert une enquête pénale contre OpenAI et ChatGPT.