Der ehemalige Google-CEO Schmidt fordert, KI-Systeme bei bestimmten Fähigkeiten „abzuschalten“

Der ehemalige Google-Chef Eric Schmidt hat Entwickler künstlicher Intelligenz davor gewarnt, ihre Entwicklungsgrenzen zu überschreiten. Er betonte außerdem, wie wichtig es sei, dass die USA den laufenden Wettlauf um die beste KI-Entwicklung gegen China gewinnen.

In einem Interview mit George Stephanopoulos in der ABC News-Sendung „This Week“ am Sonntag warnte Schmidt vor dem Potenzial von KI-Systemen, selbstständig zu agierendentsich sogar selbst zu verbessern. 

„Schon bald werden wir Computer haben, die selbstständig laufen und entscheiden, was sie tun wollen“, sagte Schmidt.

Schmidt: KI sollte nicht unkontrolliert bleiben

Schmidt bekräftigte die Risiken einer unkontrollierten Entwicklung hochentwickelter KI und merkte an, dass Systeme, die zur Selbstverbesserung fähig sind, eine erhebliche Gefahr darstellen. 

„Wenn sich das System selbst verbessern kann, müssen wir ernsthaft darüber nachdenken, es vom Netz zu trennen“, sagte der ehemalige Google-CEO.

Als Stephanopoulos Schmidt fragte, ob solche KI-Systeme auch Bemühungen, sie abzuschalten, entgegenwirken könnten, antwortete Schmidt: „Nun, theoretisch bräuchten wir jemanden, der den Stecker zieht – im übertragenen Sinne.“

Während die Sorgen um die existenziellen Risiken der KI zunehmen, argumentieren einige Experten, dass diese Befürchtungen übertrieben seien. Professor Nick Jennings, Vizepräsident für Forschung am Imperial College London, gehört zu denen, die Untergangsszenarien zurückweisen. 

Jennings argumentiert , dass KI zwar bei bestimmten Aufgaben hervorragende Leistungen erbringen kann, die Entwicklung von Systemen mit menschenähnlicher Intelligenz in verschiedenen Bereichen jedoch weit über die aktuellen Fähigkeiten der Wissenschaftler hinausgeht.

„Die Entwicklung einer KI, die eine einzelne Aufgabe sehr gut erfüllt, ist machbar“, erklärte Jennings. „Aber die Entwicklung einer allgemeinen KI, die die menschliche Intelligenz in verschiedenen Bereichen widerspiegelt, ist etwas, das wir in naher Zukunft nicht erwarten können.“

Unterschiedliche Meinungen zu KI-Bedrohungen

Unterdessen bestehen unter führenden KI-Forschern weiterhin Bedenken, die vor den Gefahren schlecht defiZiele und unzureichender Sicherheitsvorkehrungen warnen. Professor Stuart Russell und Postdoktorand Michael Cohen von der UC Berkeley argumentieren, dass leistungsstarke KI-Systeme, wenn sie nicht kontrolliert werden, letztlich eine existenzielle Bedrohung für die Menschheit darstellen könnten.

In einem Artikel forderten Russell und Cohen eine strengere Überwachung der KI-Entwicklung. Sie betonten, dass Technologieunternehmen die Sicherheit ihrer KI-Systeme nachweisen müssten, bevor sie diese auf den Markt bringen. Ohne klare Ziele und robuste Sicherheitsvorkehrungen könnten hochentwickelte KI-Systeme gegen menschliche Interessen handeln, argumentieren sie.

„Wenn die Ziele dieser KIs mit denen der Menschen kollidieren, könnte das katastrophale Folgen haben“, schrieben Russell und Cohen. Sie sind der Ansicht, dass Technologieunternehmen für die Sicherheit ihrer Systeme verantwortlich gemacht werden unddent, die KI niemals überschreiten darf.

Eine wachsende Debatte über die Sicherheit von KI

Die rasante Entwicklung der KI hat bereits Herausforderungen mit sich gebracht, darunter die Verbreitung von Desinformation, gesellschaftliche Polarisierung und algorithmische Verzerrungen. Bedenken hinsichtlich Sicherheit und Regulierung konnten mit der technologischen Entwicklung bisher nicht Schritt halten.

Schmidts Äußerungen spiegeln die wachsende Dringlichkeit wider, mit der Branchenführer diese Herausforderungen angehen. Experten wie Elon Musk fordern seit Langem präventive Regulierungen, um die Risiken der KI zu minimieren. 

Musk, der KI einst als „größtes Risiko für unsere Zivilisation“ bezeichnete, warnte davor , dass die Behörden bisher zu wenig gegen die damit verbundenen Gefahren unternommen hätten. Ähnlich befürchtete der Physiker Stephen Hawking, dass das Erreichen der Singularität – des Punktes, an dem Maschinen die menschliche Intelligenz übertreffen – die Menschheit unfähig machen könnte, hochentwickelte KI-Systeme zu kontrollieren. 

In seinem Interview argumentierte Hawking, dass KI ohne Regulierungen „entweder das Beste oder das Schlimmste werden könnte, was der Menschheit je passiert ist“

Der KI-Wettbewerb zwischen den USA und China verschärft sich

Schmidt merkte an, dass die USA zwar zuvor einen Vorsprung vor China in der KI-Entwicklung, dieser Vorsprung sich aber in den letzten sechs Monaten deutlich verringert habe. „China hat bemerkenswert aufgeholt“, sagte er und beschrieb die aktuelle Situation als ein Wettrennen zwischen den beiden Supermächten mit hohem Einsatz.

„Es wird einen Punkt geben, vielleicht in den nächsten ein bis zwei Jahren, an dem die Systeme beginnen können, selbstständig zu forschen. Man nennt sie KI-Wissenschaftler, im Gegensatz zu menschlichen Wissenschaftlern. So steigt die Zahl der menschlichen Wissenschaftler von 1.000 auf eine Million KI-Wissenschaftler. Ich denke, das beschleunigt den Fortschritt enorm, und bei diesem Tempo ist es für die Konkurrenz sehr schwer, aufzuholen“, bemerkte er.

Schmidt glaubt, dass die künftige Trump-Regierung der Wettbewerbsfähigkeit der USA im Bereich KI Priorität einräumen wird, was er als positiven Schritt sieht. „Solange menschliche Werte gewahrt bleiben“, sagte er, „sollte alles in Ordnung sein.“