Ehemaliger Google-CEO Schmidt fordert „Abklemmen“ von KI-Systemen bei bestimmten Fähigkeiten

Der ehemalige Google-CEO Eric Schmidt hat KI-Entwickler gewarnt, ihre Entwicklungsgrenzen zu kontrollieren. Er betonte auch die Bedeutung, dass die USA den laufenden KI-Wettlauf gegen China gewinnen.

In der Sendung von ABC News This Week with George Stephanopoulos am Sonntag, warnte Schmidt vor dem Potenzial von KI-Systemen, unabhängig zu operieren und sich sogar selbst zu verbessern. 

“Wir werden bald in der Lage sein, Computer laufen zu lassen, die selbst entscheiden, was sie tun wollen,” sagte Schmidt.

Schmidt: KI sollte nicht unkontrolliert gelassen werden

Schmidt wiederholte die Risiken einer unkontrollierten Entwicklung fortschrittlicher KI und bemerkte, dass Systeme, die in der Lage sind, sich selbst zu verbessern, eine erhebliche Gefahr darstellen. 

“Wenn das System sich selbst verbessern kann, müssen wir ernsthaft darüber nachdenken, es abzuklemmen,” sagte der ehemalige Google-CEO.

Als Stephanopoulos Schmidt fragte, ob solche KI-Systeme Bemühungen zur Abschaltung kontern könnten, antwortete Schmidt: „Nun, theoretisch sollten wir besser jemanden mit der Hand am Stecker haben – metaphorisch.“

Während Bedenken bezüglich existenzieller Risiken von KI wachsen, argumentieren einige Experten, dass solche Ängste übertrieben sind. Professor Nick Jennings, Vizepräsident für Forschung am Imperial College London, gehört zu denen, die Doomsday-Prognosen abweisen. 

Jennings bestreitet dass KI zwar in spezifischen Aufgaben hervorragend sein kann, die Schaffung von Systemen mit menschenähnlicher Intelligenz über verschiedene Bereiche hinweg jedoch weit über den aktuellen Fähigkeiten von Wissenschaftlern liegt.

“Die Entwicklung von KI, die eine einzelne Aufgabe sehr gut ausführt, ist erreichbar,,” erklärte Jennings. „Aber den Aufbau einer allgemeinen KI, die menschliche Intelligenz über mehrere Fächer widerspiegelt, ist etwas, das wir in naher Zukunft nicht erwarten können.“

Unterschiedliche Meinungen zu KI-Bedrohungen

Unterdessen bestehen Bedenken unter führenden KI-Forschern, die vor den Gefahren warnen, die durch schlecht definierte Ziele und unzureichende Sicherheitsmaßnahmen entstehen. UC Berkeley-Professor Stuart Russell und Postdoktorand Michael Cohen argumentieren, dass leistungsstarke KI-Systeme letztendlich eine existenzielle Bedrohung für die Menschheit darstellen könnten, wenn sie unkontrolliert gelassen werden.

In einem Insights-Papier veröffentlicht im Science Journal, forderten Russell und Cohen strengere Aufsicht über die KI-Entwicklung. Sie betonten die Notwendigkeit, dass Technologieunternehmen die Sicherheit ihrer KI-Systeme nachweisen müssen, bevor sie sie auf den Markt bringen. Ohne klare Ziele und robuste Schutzmaßnahmen könnten fortschrittliche KI-Systeme gegen menschliche Interessen handeln, argumentieren sie.

“Wenn die Ziele dieser KIs mit denen der Menschen in Konflikt geraten, könnte das eine Katastrophe bedeuten,,” schrieben Russell und Cohen. Sie glauben, dass Technologieunternehmen für die Gewährleistung der Sicherheit ihrer Systeme verantwortlich gemacht werden sollten und kritische „rote Linien“ identifizieren sollten, die KI niemals überschreiten sollte.

Eine wachsende Debatte über KI-Sicherheit

Das rasante Tempo der KI-Fortschritte hat bereits Herausforderungen mit sich gebracht, einschließlich der Verbreitung von Desinformation, gesellschaftlicher Polarisierung und algorithmischer Voreingenommenheit. Bedenken hinsichtlich Sicherheit und Regulierung haben mit der Entwicklung der Technologie noch nicht Schritt gehalten.

Schmidts Bemerkungen spiegeln die wachsende Dringlichkeit unter Branchenführern wider, diese Herausforderungen anzugehen. Experten wie Elon Musk haben lange Zeit präventive Regulierungen gefordert, um KI-Risiken zu mindern. 

Musk, der KI einst als „das größte Risiko, dem wir als Zivilisation gegenüberstehen“, beschrieben hat, dass jemand eine gefälschte Seite auf GitHub erstellt hatte, die so aussah, als biete sie das beliebte Qwen-KI-Modell zum Download an. Die Seite versprach überzeugend eine vollständig offline KI, die die Benutzerdaten privat halten würde, aber die Falle wurde durch die Dateigröße verraten. dass Behörden wenig unternommen haben, um ihre Gefahren anzugehen. Ähnlich fürchtete der Physiker Stephen Hawking, dass die Erreichung der Singularität, des Punktes, an dem Maschinen die menschliche Intelligenz übertreffen, die Menschheit in die Lage versetzen könnte, fortschrittliche KI-Systeme nicht mehr kontrollieren zu können. 

In seinem Interview argumentierte Hawking, dass KI ohne Regulierungen „entweder das Beste oder das Schlimmste sein könnte, was der Menschheit widerfahren ist.“

US-chinesischer KI-Wettbewerb intensiviert sich

Schmidt bemerkte, dass die USA zuvor einen Vorsprung gegenüber China in der KI-Entwicklung hatten, hat sich die Lücke in den letzten sechs Monaten erheblich verringert. „China hat in bemerkenswerter Weise aufgeholt,“ sagte er und beschrieb die aktuelle Situation als ein Wettrennen mit hohem Einsatz zwischen den beiden Supermächten.

“Es gibt einen Punkt, vielleicht im nächsten Jahr oder zwei, an dem die Systeme beginnen können, ihre eigene Forschung zu betreiben. Sie werden als KI-Wissenschaftler bezeichnet, im Gegensatz zu menschlichen Wissenschaftlern. So geht man von 1.000 menschlichen Wissenschaftlern zu einer Million KI-Wissenschaftlern über. Ich denke, das erhöht die Steigung, und wenn man sich in diesem Tempo bewegt, ist es für Wettbewerber sehr schwer, aufzuholen,,” bemerkte er.

Schmidt glaubt, dass die neue Trump-Regierung die Wettbewerbsfähigkeit der USA in der KI priorisieren wird, was er als positiven Schritt sieht. „Solange die menschlichen Werte gewahrt bleiben“, sagte er, „sollten wir in Ordnung sein.“