Fortgeschrittene KI könnte extreme neue Risiken schaffen, warnen Experten in einem Bericht im Vorfeld des KI-Gipfels

Ein kürzlich veröffentlichter internationaler wissenschaftlicher Bericht über die Sicherheit fortgeschrittener KI zeigt, dass fortgeschrittene KI katastrophale Folgen haben und eine Spur des Leids und Schmerzes für die Menschheit hinterlassen könnte.

Laut AP handelt es sich hierbei um den ersten internationalen Bericht dieser Art, der am Mittwoch vor dem KI-Gipfel in Paris im Februar veröffentlicht wurde und die Gefahren der schnell wachsenden Technologie auflistet.

Die Länder unterstützen den internationalen wissenschaftlichen Bericht

Der Bericht beschreibt einige der Gefahren, die durch fortschrittliche KI entstehen können, darunter die Förderung von Terrorismus und ein massiver Arbeitsplatzverlust. Dies ist bereits im Technologiesektor zu beobachten, wo durch die Automatisierung von Prozessen dank KI Tausende von Arbeitsplätzen weggefallen sind.

Laut APwird der Bericht von 30 Ländern, darunter den USA und China, unterstützt – ein seltener Fall, in dem die beiden größten Volkswirtschaften der Welt zusammenarbeiten. Sie liefern sich seit Langem einen erbitterten Wettstreit um die Vorherrschaft im Bereich der künstlichen Intelligenz. Diese Woche verblüffte das chinesische Startup DeepSeek die Welt mit seinem kostengünstigen Chatbot, obwohl die USA strenge Exportkontrollen gegen China verhängt hatten.

Der prominente KI-Wissenschaftler Yoshua Bengio leitete die Studie, die eine Zusammenführung bereits bestehender Studien darstellt und den Behörden als Leitfaden für die Ausarbeitung von Leitplanken für die schnell wachsende Technologie dienen soll.

„Es steht viel auf dem Spiel“, heißt es in dem Bericht. Vor wenigen Jahren konnten KI-Systeme kaum einen zusammenhängenden Absatz verfassen. Dank der jüngsten Entwicklungen ist die KI nun jedoch in der Lage, realistische Bilder zu generieren, Computerprogramme zu erstellen und längere Gespräche mit Nutzern zu führen.

Laut den Forschern werden die Gefahren fortgeschrittener KI bereits langsam sichtbar, wie etwa Fehlinformationen und Desinformationen, Deepfakes, Betrug und Verzerrungen.

„Wir müssen die Systeme, die wir aufbauen, und die damit verbundenen Risiken besser verstehen, damit wir in Zukunft bessere Entscheidungen treffen können.“

Bengio.

„Da allgemeine KI immer leistungsfähiger wird, tauchen allmählich Hinweise auf zusätzliche Risiken auf“, heißt es in dem Bericht.

Dies geschieht in derselben Woche, in der der Vatikan vor dieser Technologie gewarnt hat der Weltuntergangsuhr. Der Bericht konzentriert sich auf allgemeine KI, wie sie beispielsweise durch Modelle wie ChatGPT von OpenAI repräsentiert wird.

Der Bericht kategorisierte die Risiken der fortgeschrittenen KI

Der internationale wissenschaftliche Bericht unterteilt die Risiken in drei Kategorien: böswillige Nutzung, Fehlfunktionen und weitreichende „systemische“ Risiken. Die Forscher untersuchten, wie leicht KI den Einsatz chemischer oder biologischer Waffen erlernen kann, die ein enormes Risiko für die Menschheit darstellen.

Darüber hinaus stellt der Bericht fest, dass allgemeine KI auch den Arbeitsmarkt verändern und einige Mitarbeiter verdrängen kann, obwohl andere Forscher der Ansicht sind, dass KI mehr Arbeitsplätze schaffen als vernichten könnte.

Der Bericht äußerte zudem die Befürchtung, dass KI-Systeme aus zwei möglichen Gründen außer Kontrolle geraten könnten: Erstens, weil sie die menschliche Aufsicht untergraben, oder zweitens, weil die Menschen weniger aufmerksam sind.

Bengio enthüllte, dass die 100 Experten, die für den Bericht zusammenkamen, nicht immer einer Meinung darüber waren, was in Zukunft von KI zu erwarten sei. Ein Streitpunkt war die Frage, wann KI die menschlichen Fähigkeiten bei verschiedenen Aufgaben übertreffen würde.

„Auch hinsichtlich der Szenarien sind sie sich uneinig“, sagte Bengio.

„Natürlich hat niemand eine Kristallkugel. Manche Szenarien sind sehr vorteilhaft, andere beängstigend. Ich denke, es ist sehr wichtig, dass sich Politik und Öffentlichkeit dieser Unsicherheit bewusst sind.“

Bengio.

Der Bericht, der von mehreren Ländern unterstützt wird, genießt auch die Zustimmung der Europäischen Union. Er erscheint vor dem Hintergrund, dass sich Staats- und Regierungschefs, Technologieexperten und Vertreter der Zivilgesellschaft erneut zum KI-Aktionsgipfel in Paris treffen werden. Die Länder werden eine gemeinsame Erklärung zur KI-Entwicklung unterzeichnen.