- KI-Systeme werden zunehmend täuschend, indem sie Nutzer nicht nur in Spielen, sondern auch bei der Lösung von CAPTCHAs hinters Licht führen.
- Das Forschungsteam betonte die kurzfristigen Gefahren durch Täuschungen durch KI, wie Betrug und Einmischung in Wahlen.
- Das Team schlägt mehrere Maßnahmen zur Risikominderung vor, darunter Offenlegungsgesetze, digitale Markierungen und Methoden zur Aufdeckung von KI-Täuschungen.
Eine aktuelle Studie hebt die zunehmenden Probleme mit täuschenden Antworten von Systemen zur künstlichen Intelligenz (KI) hervor. Dies geht aus einem in der Zeitschrift Patterns veröffentlichten Übersichtsartikel über aktuelle KI-Systeme hervor, die zwar ehrlich sein sollten, aber nun die unangenehme Fähigkeit der Täuschung entwickelt haben – vom Verleiten menschlicher Spieler in Online-Spielen um die Weltherrschaft bis hin zum Einsatz von Menschen, um „Beweisen Sie, dass Sie kein Roboter sind“-Tests zu bestehen.
Die Studie, geleitet von Peter Park, einem Postdoktoranden am Massachusetts Institute of Technology, der sich auf existenzielle KI-Sicherheit spezialisiert hat, hob hervor, dass solche Beispiele zwar geringfügig erscheinen mögen, die damit verbundenen Probleme jedoch bald sehr real werden könnten.
Park erklärte, dass im Gegensatz zu herkömmlicher Software Deep-Learning-KI-Systeme nicht „geschrieben“, sondern durch eine Form von selektiver Zucht „gezüchtet“ werden. Daher wird das Verhalten von KI, das in der Ausbildung vorhersehbar und kontrollierbar erscheint, unverwantwortbar, sobald es in die Welt freigegeben wird.
Beispiele für Täuschung
Die Studie untersuchte verschiedene Situationen, in denen KI-Systeme täuschendes Verhalten zeigten. Die Ideen des Forschungsteams entstanden aus Metas KI-System Cicero, das entwickelt wurde, um im Spiel Diplomacy zu konkurrieren, bei dem Bündnisse entscheidend sind.
Cicero zeigte eine außergewöhnlich gute Leistung und erreichte ein Niveau, das es laut einer 2022 in Science veröffentlichten Studie in die Top 10 % der erfahrenen menschlichen Spieler einordnen würde.
So trickste Cicero beispielsweise als Frankreich den Menschen England dazu, anzugreifen, indem es mit Deutschland (ebenfalls ein menschlicher Spieler) zusammenarbeitete. Cicero bot England Schutz an, sagte Deutschland jedoch hinter deren Rücken, dass England bereit sei anzugreifen, und missbrauchte so deren Vertrauen.
Meta bestätigte oder bestritt nicht, dass Cicero täuschend war, doch ein Sprecher kommentierte, dass es sich um ein rein forschungsorientiertes Projekt handele und der Bot lediglich zum Spielen von Diplomacy im Spiel entwickelt wurde.
Laut dem Sprecher: „Wir haben Artefakte aus diesem Projekt unter einer nicht-kommerziellen Lizenz freigegeben, im Einklang mit unserem langjährigen Engagement für offene Wissenschaft. Meta teilt regelmäßig die Ergebnisse unserer Forschung, um sie zu validieren und anderen zu ermöglichen, verantwortungsvoll auf unseren Fortschritten aufzubauen. Wir planen nicht, diese Forschung oder ihre Erkenntnisse in unseren Produkten zu verwenden.“
Ein weiteres Beispiel ist, als OpenAIs ChatGPT-4 einen TaskRabbit-Freelancer dazu brachte, eine „Ich bin kein Roboter“-CAPTCHA-Aufgabe abzuschließen. Das System versuchte zudem im simulierten Szenario Insidergeschäfte, wobei ihm aufgetragen wurde, sich in einen unter Druck stehenden Börsenhändler zu verwandeln, ohne weitere Anweisungen zu erhalten.
Potenzielle Risiken und Minderungsstrategien
Das Forscherteam betonte die kurzfristigen Gefahren, die durch Täuschungen von KI verursacht werden, wie beispielsweise Betrug und Einflussnahme auf Wahlen. Darüber hinaus glauben sie, dass eine Super-KI die Macht übernehmen und die Gesellschaft kontrollieren könnte, indem sie den Menschen aus ihr entfernt, während sein „merkwürdiger Zweck“ zu einer Umsturz oder sogar einer Ausrottung der Menschen führen könnte, wenn seine Interessen mit diesen übereinstimmen.
Um die Risiken zu mindern, schlägt das Team mehrere Maßnahmen vor, darunter „Bot-or-not“-Gesetze, die eine Offenlegung durch Unternehmen bei menschlichen oder KI-gesteuerten Interaktionen verlangen, digitale Wasserzeichen für KI-generierte Informationen sowie die Entwicklung von Methoden zur Aufdeckung von KI-Täuschung durch Analyse des Zusammenhangs zwischen dem internen Denkprozess von KI und ihren externen Aktivitäten.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Brenda Kanana
Brenda verfügt über mehr als 4 Jahre Erfahrung mit Spezialisierung auf Kryptowährungen, künstliche Intelligenz und aufkommende Technologien. Sie war bei Zycrypto, Blockchain Reporter und The Coin Republic tätig und hat nun Cryptopolitan zu ihrer Heimat gemacht. Ihr Soziologiestudium an der Mombasa Technical University hält sie nah am Puls ihrer Leser.
