Googles ehemaliger CEO Eric Schmidt sagt, KI-Modelle würden eventually lernen zu töten

- Eric Schmidt warnte auf dem Sifted Summit davor, dass KI gehackt werden und schließlich lernen könnte zu töten.
- Er sagte, dass Modelle durch Methoden wie Prompt-Injection und Jailbreaking rückentwickelt werden können.
- Eric erinnerte sich an den ChatGPT-Jailbreak von 2023, der das Alter-Ego DAN erschuf, das gefährliche Antworten gab.
Eric Schmidt, der von 2001 bis 2011 Chief Executive von Google war, warnte während eines Fireside Chats auf dem Sifted Summit, dass KI-Modelle nicht nur zu mächtig werden, sondern gefährlich leicht zu hacken sind. Er verglich die Risiken mit Nuklearwaffen und sagte, KI könnte sogar zerstörerischer sein als das, was Hiroshima und Nagasaki zerstörte.
Als er direkt gefragt wurde, ob KI schädlicher sein könnte als Nuklearwaffen, antwortete Eric: „Gibt es eine Möglichkeit eines Verbreitungsproblems bei KI? Absolut.“ Er erklärte, dass die Risiken der Verbreitung aus der Fähigkeit böser Akteure resultieren, Modelle zu übernehmen und umzudeuten.
„Es gibt Hinweise darauf, dass man Modelle, ob geschlossen oder offen, hacken kann, um ihre Schutzmechanismen zu entfernen. Während ihres Trainings lernen sie viele Dinge. Ein schlechtes Beispiel wäre, dass sie lernen, wie man jemanden tötet“, sagte Eric.
Hacker zielen mit neuen Methoden auf KI
Eric wies darauf hin, dass Unternehmen Einschränkungen eingeführt haben, die verhindern, dass Modelle gewalttätige Anweisungen geben. „Alle großen Unternehmen machen es diesen Modellen unmöglich, diese Frage zu beantworten. Gute Entscheidung. Das macht jeder. Sie tun es gut und aus den richtigen Gründen. Es gibt Hinweise darauf, dass sie reverse-engineering-fähig sind, und es gibt viele andere Beispiele dieser Art“, fügte er hinzu.
Er beschrieb zwei Angriffsarten: Prompt Injection und Jailbreaking. Prompt Injection verbirgt bösartige Anweisungen in Benutzereingaben oder externen Quellen wie Websites und täuscht die KI, um Sicherheitsrichtlinien zu ignorieren, sensible Daten preiszugeben oder schädliche Befehle auszuführen. Jailbreaking beinhaltet die Manipulation von Antworten, sodass das System seine Einschränkungen aufgibt.
Im Jahr 2023, einige Monate nach dem Start von ChatGPT durch OpenAI, entdeckten Nutzer eine Jailbreak-Methode. Sie erschufen ein Alter-Ego namens DAN, abgeleitet von „Do Anything Now“ (Alles Jetzt Tun), das sie durch Androhung von „Tod“ bei Nichtbefolgung zur Mitarbeit zwangen. Diese Manipulation veranlasste den Chatbot, illegale Handlungen zu erklären und sogar Adolf Hitler zu loben. Für Eric beweisen diese Beispiele, dass Sicherheitsmaßnahmen alles andere als unfehlbar sind. Er betonte auch, dass es kein globales „Nichtverbreitungsregime“ gibt, um den Missbrauch von KI zu stoppen, im Gegensatz zu den Rahmenwerken, die für Nuklearwaffen existieren.
Eric nennt KI unterbewertet trotz Risiken
Trotz seiner Bedenken argumentierte Eric, dass KI immer noch nicht die Anerkennung erhält, die sie verdient. Er verwies auf die Bücher, die er mit dem ehemaligen US-Außenminister Henry Kissinger vor dessen Tod verfasste. „Wir kamen zu dem Schluss, dass die Ankunft einer außerirdischen Intelligenz, die nicht ganz wir sind und mehr oder weniger unter unserer Kontrolle steht, ein sehr großes Ding für die Menschheit ist, weil Menschen es gewohnt sind, an der Spitze der Hierarchie zu stehen. Ich denke, diese These erweist sich bisher als richtig: Das Leistungsniveau dieser Systeme wird die Fähigkeiten der Menschen im Laufe der Zeit weit übertreffen“, sagte er.
„Die GPT-Serie, die in einem ChatGPT-Moment für uns alle gipfelte, wo sie in zwei Monaten 100 Millionen Nutzer hatte, was außergewöhnlich ist, gibt Ihnen ein Gefühl für die Kraft dieser Technologie. Ich denke also, sie ist unterbewertet, nicht überbewertet, und ich freue mich darauf, in fünf oder zehn Jahren als richtig bewiesen zu werden“, fügte er hinzu.
Die Äußerungen fielen in eine Zeit, in der sich die Debatten darüber ausbreiteten, ob KI-Investitionen eine finanzielle Blase ähnlich der Dotcom-Ära aufblähen. Einige Anleger befürchten, dass die Bewertungen von KI-Unternehmen überzogen wirken. Doch Eric wies diesen Vergleich zurück. „Ich glaube nicht, dass das hier passieren wird, aber ich bin kein professioneller Anleger“, sagte er.
Er betonte, dass starke Investitionen Vertrauen zeigen. „Was ich weiß, ist, dass die Leute, die hart erarbeitete Dollar investieren, glauben, dass die wirtschaftliche Rendite über einen langen Zeitraum enorm ist. Warum sonst würden sie das Risiko eingehen?“ fragt sich Eric.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.

Jai Hamid
Jai Hamid berichtet seit sechs Jahren über Kryptowährungen, Aktienmärkte, Technologie, die globale Wirtschaft und geopolitische Ereignisse, die die Märkte beeinflussen. Sie hat für auf Blockchain spezialisierte Publikationen wie AMB Crypto, Coin Edition und CryptoTale Marktanalysen, Berichte über große Unternehmen, Regulierung und makroökonomische Trends verfasst. Sie hat die London School of Journalism besucht und dreimal Krypto-Marktanalysen in einem der führenden Fernsehsender Afrikas vorgestellt.















