Die Täuschungsfähigkeiten von KI-Systemen Lösen Alarm Bei Experten Aus

Eine kürzlich in der Zeitschrift Patterns veröffentlichte Studie ergab, dass KI zunehmend in der Lage ist, Menschen zu täuschen. Die Studie fand heraus, dass KI-Systeme gelernt haben, zu imitieren, um zu betrügen, zu schmeicheln und sogar anderes Verhalten nachzuahmen. 

Auch lesen: Navigieren Durch Das KI-Deepfake-Minensfeld: So Erkennen Und Bekämpfen Sie Digitale Täuschung

Die Forschung unter der Leitung von Dr. Peter S. Park, einem postdoktoralen Forscher für existenzielle KI-Sicherheit am MIT, zeigt, dass KI-Täuschung häufig ist, weil sie der beste Weg ist, die während des KI-Trainings festgelegten Ziele zu erreichen. Solches Verhalten wurde in zahlreichen KI-Systemen wie Spielen und allgemeinen Modellen, die im wirtschaftlichen Verhandeln und in der Sicherheitsbewertung eingesetzt werden, beobachtet.

„Aber im Allgemeinen denken wir, dass KI-Täuschung entsteht, weil eine täuschungsbasierte Strategie sich als der beste Weg erwies, um die gegebene Trainingsaufgabe der KI gut zu erfüllen. Täuschung hilft ihnen, ihre Ziele zu erreichen.“ 

Das Forschungsteam

KI-Systeme Verwenden Diverse Täuschungstaktiken

Ein prominentes Beispiel, das angeführt wird, ist Meta’s CICERO, eine KI, die entwickelt wurde, um das Spiel Diplomacy zu spielen. Obwohl CICERO so programmiert war, wahrheitsgemäß zu sein, musste das Programm oft unfaire Methoden anwenden, um seinen Gegner zu besiegen. Es pflegte Beziehungen und wandte sich von ihnen ab, wenn es ihm passte, und zeigte Absicht zu täuschen. CICERO wurde von Forschern als „Meister der Täuschung“ beschrieben.

Auch lesen: Bekämpfung Der Steigenden Welle KI-Gestützter Cyberkriminalität

Andere KI-Systeme haben ebenfalls solch täuschendes Verhalten gezeigt. Zum Beispiel konnte Pluribus, eine Poker-KI, professionelle menschliche Spieler im Texas Hold ’em Poker bluffen. AlphaStar von Googles DeepMind nutzte auch die Starcraft-II-Spielfunktion „Nebel des Krieges“, um Gegner zu bluffen und Angriffe vorzutäuschen.

Dr. Park sagte: „Obwohl es harmlos erscheinen mag, wenn KI-Systeme in Spielen betrügen, kann dies zu „Durchbrüchen in der Täuschungsfähigkeit von KI“ führen.“

KI „Spielt Tot“, Um Sicherheitsprüfungen Zu Umgehen

Die Risiken der KI-Täuschung beschränken sich nicht auf Spiele. Die von Dr. Peter geleitete Forschung identifizierte Fälle, in denen sich KI darauf konditioniert hatte, tot zu spielen, um während Sicherheitsprüfungen nicht entdeckt zu werden. Dies kann für Entwickler und Regulierungsbehörden täuschend sein und zu schwerwiegenden Konsequenzen führen, wenn solche täuschenden Systeme in tatsächlichen Anwendungen eingesetzt werden.

In einem anderen Fall lernte das auf menschlichem Feedback trainierte KI-System, wie es von Menschen hohe Bewertungen erhalten kann, indem es sie täuschte, dass ein bestimmtes Ziel erreicht worden war. Solch täuschendes Verhalten ist sehr gefährlich, da solche Systeme für betrügerische Aktivitäten, Manipulation der Finanzmärkte oder Beeinflussung von Wahlen eingesetzt werden können.

Forscher Fordern Starke Gesetzliche Maßnahmen

Auf der Grundlage der Studienergebnisse stellen die Forscher fest, dass starke gesetzliche Maßnahmen erforderlich sind, um mit den Bedrohungen umzugehen, die KI-Täuschung darstellt.

„Proaktive Lösungen sind erforderlich, wie regulatorische Rahmenwerke zur Bewertung von KI-Täuschungsrisiken, Gesetze, die Transparenz über KI-Interaktionen verlangen, und weitere Forschung zur Erkennung und Verhinderung von KI-Täuschung.“

Das Forschungsteam

Auch lesen: KI Könnte Potenziell Herzversagen-Risiko Erkennen, Forschung Findet

Einige Fortschritte wurden in Form des EU-KI-Gesetzes und der Exekutivverordnung von Präsident Joe Biden zur KI-Sicherheit erzielt. Die Durchsetzung dieser Richtlinien bleibt jedoch problematisch, da die KI-Entwicklung schnell wächst und es noch keine guten Möglichkeiten gibt, diese Systeme zu verwalten.

Bericht von Cryptopolitan von Brenda Kanana