KI-Forscher schätzen die Wahrscheinlichkeit des menschlichen Aussterbens durch fortschrittliche KI auf 5 %

Eine kürzlich durchgeführte Umfrage unter 2.700 Forschern im Bereich der künstlichen Intelligenz (KI), die auf sechs führenden KI-Konferenzen publiziert haben, ergab, dass fast 58 % derdentder Meinung sind, dass die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit oder zu anderen katastrophalen Folgen führt, bei 5 % liegt.

Die Studie untersuchte auch die Zeitpläne für technologische Meilensteine ​​der KI und deren potenzielle gesellschaftliche Folgen. Trotz der Unsicherheit und der unterschiedlichen Meinungen unter Forschern verdeutlichen die Ergebnisse die Bedenken innerhalb der KI-Community hinsichtlich der potenziellen Risiken, die mit der Entwicklung übermenschlicher KI einhergehen.

Forscher äußern Warnungen hinsichtlich des Aussterberisikos der KI

Katja Grace, eine der Autorinnen der Studie und Forscherin am Machine Intelligence Research Institute in Kalifornien, betonte die Bedeutung der Annahme, dass von fortschrittlicher KI ein nicht zu vernachlässigendes Risiko ausgeht. Grace erklärte: „Es ist ein wichtiges Signal, dass die meisten KI-Forscher es nicht fürtronunwahrscheinlich halten, dass fortschrittliche KI die Menschheit vernichtet.“ Laut Émile Torres, Wissenschaftler an der Case Western Reserve University in Ohio, besteht jedoch kein unmittelbarer Grund zur Beunruhigung.

Torres warnte davor, Expertenumfragen überzubewerten, da diese keine sotron tracbei der präzisen Vorhersage von KI-Entwicklungen aufweisen. Eine Studie aus dem Jahr 2012 ergab, dass die Prognosen von KI-Experten nicht verlässlicher waren als die öffentliche Meinung. Die Autoren der aktuellen Studie wiesen zudem darauf hin, dass KI-Forscher möglicherweise nicht über die nötige Expertise verfügen, um die zukünftige Entwicklung der KI vorherzusagen.

Beschleunigte Meilensteine ​​und frühere Prognosen

Im Vergleich zu einer Umfrage aus dem Jahr 2022 prognostizierten viele KI-Forscher in der aktuellen Befragung, dass KI bestimmte Meilensteine ​​schneller erreichen würde als bisher angenommen. Diese Vorhersagen deckten sich mit dem Start fortschrittlicher KI-Chatbot-Dienste wie ChatGPT im November 2022 und der rasanten Verbreitung ähnlicher KI-Modelle im Silicon Valley.

Forscher prognostizierten eine Wahrscheinlichkeit von 50 % oder höher, dass KI-Systeme innerhalb des nächsten Jahrzehnts verschiedene Aufgaben erfolgreich bewältigen würden. Dazu zählten das Komponieren von Liedern, die von denen bekannter Künstler wie Taylor Swift nicht zu unterscheiden wären, und die Entwicklung kompletter Zahlungsabwicklungssysteme. Andere komplexe Aufgaben, wie die Installation von Elektroleitungen in Wohnhäusern oder die Lösung langjährigermaticRätsel, würden hingegen voraussichtlich länger dauern.

Die Wahrscheinlichkeit, dass KI die menschliche Leistungsfähigkeit bei allen Aufgaben übertrifft, wurde bis 2047 auf 50 % geschätzt, während die Möglichkeit, dass alle menschlichen Arbeitsplätze bis 2116 vollständig automatisierbar werden, ebenfalls mit 50 % bewertet wurde. Diese Schätzungen bedeuten eine Beschleunigung um 13 bzw. 48 Jahre im Vergleich zur Umfrage des Vorjahres.

Unvorhersehbare KI-Durchbrüche und unmittelbare Bedenken

Trotz der hohen Erwartungen an die KI-Entwicklung mahnte Émile Torres zur Vorsicht hinsichtlich der Unvorhersehbarkeit technologischer Durchbrüche. Torres wies darauf hin, dass der KI-Bereich in den 1970er und 80er Jahren bereits Phasen geringerer Finanzierung und des geringeren Unternehmensinteresses, sogenannte „KI-Winter“, erlebt habe.

Darüber hinaus wiesen KI-Forscher auf unmittelbare Bedenken hin, wie den Missbrauch von KI, einschließlich Deepfakes, die Manipulation der öffentlichen Meinung, die Entwicklung von Waffensystemen, die autoritäre Kontrolle der Bevölkerung und die zunehmende wirtschaftliche Ungleichheit. Torres betonte zudem die potenziellen Gefahren, die von KI ausgehen, wenn sie zur Verbreitung von Desinformationen zu kritischen Themen wie Klimawandel und demokratischer Regierungsführung beiträgt.

Die Umfrage unter KI-Forschern zeigt eine erhebliche Besorgnis innerhalb der KI-Community hinsichtlich der potenziellen Risiken, die mit der Entwicklung fortschrittlicher KI einhergehen. Auch wenn das genaue Risiko, dass KI zum Aussterben der Menschheit führt, weiterhin ungewiss ist, unterstreicht die Annahme eines nicht zu vernachlässigenden Risikos die Notwendigkeit fortlaufender ethischer und sicherheitsrelevanter Überlegungen bei der KI-Entwicklung.

Trotz der rasanten Entwicklung der KI räumen Forscher die Unvorhersehbarkeit technologischer Fortschritte ein und betonen unmittelbare Bedenken wie KI-Missbrauch und gesellschaftliche Auswirkungen. Angesichts der fortschreitenden Entwicklung der KI müssen Forscher, politische Entscheidungsträger und die Gesellschaft als Ganzes diese Herausforderungen proaktiv und verantwortungsvoll angehen.