KI in hochkarätigem Verschwörungprozess löst Kontroverse aus

In einem Millionen-dollar schweren Verschwörungsprozess, der sowohl die Unterhaltungs- als auch die politische Welt fesselte, ist ein überraschender Akteur aufgetaucht – künstliche Intelligenz (KI). Prakazrel „Pras“ Michel, Mitglied der ikonischen Hip-Hop-Gruppe Fugees, argumentiert nun, dass die Verwendung eines „experimentellen“ generativen KI-Programms durch seinen Anwalt einer der vielen Fehler war, die seine Verteidigung beeinträchtigten und letztlich zu seiner Verurteilung Anfang dieses Jahres führten.

Michels neues Rechtsteam hat diese Woche einen Antrag auf einen neuen Prozess eingereicht und behauptet, sein früherer Anwalt David Kenner sei „unqualifiziert, unvorbereitet und ineffektiv“ gewesen. Das generative KI-Programm, entwickelt von EyeLevel.AI, sollte bei der Erstellung der Schlussplädoyers helfen, aber Michel behauptet, dass es zum Scheitern seiner Verteidigung beigetragen hat. Dieser Präzedenzfall hat die KI in den rechtlichen Bereich gerückt und wirft Fragen nach ihren potenziellen Auswirkungen auf das Justizsystem auf.

Generative KI: Der aufstrebende Konkurrent in rechtlichen Arenen

Generative KI-Programme sind in der Lage, realistische Texte, Bilder und Videos zu erzeugen. Ihre wachsende Bedeutung hat Diskussionen über Desinformation, Urheberrechtsverletzungen und den Bedarf an gesetzlichen Regulierungen ausgelöst. KI-Tools wie ChatGPT haben bereits Branchen wie Schreiben und Bildung neu gestaltet, und der Michel-Fall könnte als Vorschau auf kommende Herausforderungen dienen, während diese Technologie weiter voranschreitet.

Dieser Prozess markierte einen historischen Moment, da er der erste Bundesprozess war, der generative KI einbezog. Das Startup, das für die Entwicklung des KI-Systems verantwortlich ist, hob dessen Bedeutung hervor, wobei Kenner es sogar als „Game Changer für komplexe Rechtsstreitigkeiten“ bezeichnete. Allerdings nahm der Fall eine unerwartete Wendung, als Kenner während seiner Schlussplädoyers kritische Details des Falls zu verwechseln schien und irrtümlicherweise Lyrics den Fugees zuschrieb, die eigentlich dem Rapper Diddy (früher bekannt als Puff Daddy) gehörten.

Kenners offensichtlicher Fehler in seinen letzten Worten an die Jury warf Fragen nach der Wirksamkeit des KI-Programms auf. Michels neuer Anwalt, Peter Zeidenberg, argumentierte, dass das KI-Programm Kenner im Stich gelassen habe, was zu einer „mangelhaften, unhelpfulen und verpassten Gelegenheit“ geführt habe, die die Verteidigung benachteiligt habe.

Die Verteidigung des Unternehmens: KI als rechtliches Werkzeug, nicht als Ersatz

EyeLevel.AI, das Unternehmen hinter dem generativen KI-Programm, verteidigte seine Technologie energisch. Im Gegensatz zu Michels Behauptung, das Programm sei „experimentell“, behauptete das Unternehmen, es sei ausschließlich mit Fakten aus dem Fall, wie Gerichtsprotokollen, trainiert worden und habe keine musikalischen Lyrics oder Online-Quellen herangezogen. Neil Katz, Mitgründer und COO von EyeLevel.AI, betonte, dass ihre KI darauf ausgelegt sei, menschliche Anwälte bei der Bereitstellung schneller Antworten auf komplexe rechtliche Fragen zu unterstützen, nicht um sie zu ersetzen. Katz bestritt vehement, dass Kenner ein finanzielles Interesse am Programm habe.

Die Auswirkungen auf das Rechtsfeld

Der Michel-Fall ist darauf ausgerichtet, ein Präzedenzfall für Anwaltskanzleien zu werden, die zunehmend KI-Technologie übernehmen. Sharon Nelson, Präsidentin von Sensei Enterprises, einer Firma für digitale Forensik, Cybersicherheit und Informationstechnologie, bemerkte, dass eine erhebliche Anzahl von Kanzleien KI bereits in ihre Praxis integriert haben, und Umfragen deuten darauf hin, dass mehr als 50 % der Anwälte dies im nächsten Jahr tun werden. Sie betonte das rasante Tempo, mit dem KI den Rechtsberuf transformiert, und behauptete: „Wenn Sie nicht damit arbeiten, werden Sie zurückgelassen.“

Michel wurde im April in allen 10 Anklagepunkten, darunter Verschwörung und das Handeln als nicht registrierter Vertreter einer ausländischen Regierung, für schuldig befunden, mit möglichen Strafen von bis zu 20 Jahren Gefängnis. Er wartet auf die Verkündung des Urteils, die noch nicht terminiert ist. In Zeidenbergs Antrag auf einen neuen Prozess argumentierte er, dass das Versagen des KI-Programms nur ein Aspekt einer fehlerhaften Verteidigung war und zitierte auch Probleme damit, dass die Jury Referenzen auf die „Crime-Fraud-Ausnahme“ und „Mitverschwörer“ hörte.

Die Zukunft der KI im Rechtsberuf

Während die Verwendung von generativer KI im Rechtsbereich noch in den Kinderschuhen steckt, wird ihre Adoption voraussichtlich wachsen, während KI-Produkte weiter verbessert werden. John Villasenor, Professor für Ingenieurwesen und öffentliche Politik an der University of California, Los Angeles, kommentierte die sich wandelnde Landschaft und bemerkte, dass die American Bar Association das Thema derzeit untersucht, aber noch keine Richtlinien für die Verwendung von KI im Rechtsberuf festgelegt hat.

Die Verwendung von KI für Schlussplädoyers stellt aufgrund der dynamischen Natur von Prozessen einzigartige Herausforderungen dar, und generative KI kann gelegentlich Ungenauigkeiten produzieren, sogenannte „Halluzinationen“. Villasenor riet Anwälten, die KI nutzen, zur Vorsicht und zur sorgfältigen Faktenprüfung aller von der Technologie generierten Inhalte.

Die Entscheidung über den Antrag auf einen neuen Prozess steht noch aus, aber der Michel-Fall hat die generative KI unbestreitbar in den rechtlichen Fokus gerückt und Debatten über ihre Rolle und ihren Einfluss auf die Verfolgung der Gerechtigkeit ausgelöst. Während die KI-Technologie weiter fortschreitet, wird ihre Präsenz im Gerichtssaal wahrscheinlich zunehmen und Anwälte herausfordern, sich an diese neue Front in der Rechtspraxis anzupassen