Experten sagen in einem Bericht vor dem KI-Gipfel, dass fortschrittliche KI extreme neue Risiken schaffen könnte

Ein kürzlich veröffentlichter Internationaler Wissenschaftlicher Bericht zur Sicherheit fortschrittlicher KI zeigt, dass fortschrittliche KI katastrophal sein und eine Spur von Schmerz und Leid für den Menschen hinterlassen könnte.

Laut AP ist dies der erste seiner Art, am Mittwoch vor dem KI-Gipfel in Paris im Februar veröffentlicht, der die Gefahren der schnell wachsenden Technologie auflistet.

Länder unterstützen den Internationalen Wissenschaftlichen Bericht

Der Bericht beschreibt einige der Gefahren, die als Ergebnis fortschrittlicher KI entstehen könnten, darunter die Ermöglichung von Terrorismus und weit verbreitete Arbeitsplatzverluste. Dies wurde bereits insbesondere im Tech-Bereich erlebt, wo Tausende von Jobs gestrichen wurden, da die Unternehmen dank KI automatisieren.

Laut AP hat der Bericht die Unterstützung von 30 Ländern, darunter die USA und China, ein seltener Fall, in dem die beiden größten Volkswirtschaften der Welt zusammenarbeiten. Die beiden waren seit langem verfeindet, da sie um die Vorherrschaft in der KI kämpfen. Diese Woche hat der chinesische Startup DeepSeek die Welt mit seinem günstigen Chatbot in Erstaunen versetzt, obwohl die USA strenge Exportkontrollen für China verhängt haben.

Der prominente KI-Wissenschaftler Yoshua Bengio leitete die Studie, die eine Fusion bereits bestehender Studien darstellt, um Behörden bei der Ausarbeitung von Schutzmaßnahmen für die schnell wachsende Technologie zu leiten.

„Die Einsatzhöhe ist hoch“, heißt es in dem Bericht, und weist darauf hin, dass KI-Systeme vor ein paar Jahren kaum einen kohärenten Absatz produzieren konnten. Mit der jüngsten Entwicklung kann KI jedoch nun realistische Bilder, Computerprogramme generieren sowie längere Gespräche mit Nutzern führen.

Laut den Forschern sind die Gefahren fortschrittlicher KI bereits langsam zu beobachten, wie Desinformation und Falschinformation, Deepfakes, Betrug und Verzerrungen.

„Wir müssen die Systeme, die wir bauen, und die damit verbundenen Risiken besser verstehen, damit wir in Zukunft bessere Entscheidungen treffen können.“

Bengio.

Dies geschieht „während KI für allgemeine Zwecke leistungsfähiger wird, treten allmählich Hinweise auf zusätzliche Risiken zutage“, so der Bericht.

Dies geschieht auch in derselben Woche, in der das Vatikan vor der Technologie gewarnt hat, zusammen mit der Gruppe hinter Doomsday Clock. Der Bericht konzentriert sich auf KI für allgemeine Zwecke, die durch Modelle wie ChatGPT von OpenAI repräsentiert wird.

Der Bericht kategorisierte die Risiken fortschrittlicher KI

Der Internationale Wissenschaftliche Bericht gruppiert die Risiken in drei Kategorien: böswillige Nutzung, Fehlfunktionen und weit verbreitete „systemische“ Risiken. Die Forscher untersuchten, wie leicht es für KI ist, den Einsatz chemischer oder biologischer Waffen zu erlernen, was enorme Risiken für den Menschen darstellt.

Zusätzlich stellt der Bericht fest, dass KI für allgemeine Zwecke auch den Arbeitsmarkt transformieren kann, indem sie einige Mitarbeiter verdrängt, obwohl andere Forscher übereinstimmen, dass KI mehr Arbeitsplätze schaffen könnte, als sie wegnimmt.

Der Bericht äußerte auch Befürchtungen, dass KI-Systeme außer Kontrolle geraten könnten, aus zwei möglichen Gründen: Entweder untergraben sie die menschliche Aufsicht oder die Menschen achten weniger darauf.

Bengio enthüllte, dass die 100 Experten, die für den Bericht zusammenkamen, nicht immer darin übereinstimmten, was sie von der Zukunft der KI erwarten sollten. Eine der Uneinigkeiten betraf den Zeitpunkt, an dem die KI die menschlichen Fähigkeiten bei verschiedenen Aufgaben übertreffen würde.

„Sie sind sich auch über die Szenarien nicht einig“, sagte Bengio.

„Natürlich hat niemand eine Kristallkugel. Einige Szenarien sind sehr vorteilhaft. Andere sind furchteinflößend. Ich denke, es ist wirklich wichtig für politische Entscheidungsträger und die Öffentlichkeit, diese Unsicherheit zur Kenntnis zu nehmen.“

Bengio.

Der Bericht, den mehrere Länder unterstützt haben, hat auch die Unterstützung der Europäischen Union. Dies geschieht, während Weltführer, Tech-Führer und Experten sowie die Zivilgesellschaft erwartet werden, sich erneut am Pariser KI-Aktionsgipfel zu treffen. Die Länder werden eine „gemeinsame Erklärung“ zur KI-Entwicklung unterzeichnen.