KI-Forscher schlagen 5 % Chance auf menschliches Aussterben durch fortschrittliche KI vor

In einer kürzlich durchgeführten Umfrage unter 2.700 Künstlicher-Intelligenz-(KI)-Forschern, die auf sechs Top-KI-Konferenzen veröffentlicht haben, wurde offengelegt, dass fast 58 % der Befragten glauben, es bestehe eine 5-prozentige Chance, dass KI zum menschlichen Aussterben oder anderen katastrophalen Ergebnissen führt.

Die Umfrage untersuchte auch die Zeitpläne für technologische KI-Meilensteine und deren potenzielle gesellschaftliche Folgen. Trotz der Unsicherheit und der Uneinigkeit unter den Forschern werfen diese Erkenntnisse Licht auf die Bedenken innerhalb der KI-Community bezüglich der potenziellen Risiken, die mit der Entwicklung superhumaner KI verbunden sind.

Forscher äußern Vorsicht bezüglich des KI-Aussterberisikos

Katja Grace, eine Autorin der Umfrage und Forscherin am Machine Intelligence Research Institute in Kalifornien, betonte die Bedeutung des Glaubens an ein nicht zu vernachlässigendes Risiko, das von fortschrittlicher KI ausgeht. Grace erklärte: „Es ist ein wichtiges Signal, dass die meisten KI-Forscher es nicht für stark unwahrscheinlich halten, dass fortschrittliche KI die Menschheit zerstört.“ Dennoch gibt es laut Émile Torres, einem Gelehrten der Case Western Reserve University in Ohio, keinen unmittelbaren Grund zur Alarmierung.

Torres warnte davor, auf Expertenumfragen überzureagieren, und wies darauf hin, dass diese keine starke Erfolgsbilanz bei der genauen Vorhersage von KI-Entwicklungen haben. Eine frühere Studie aus dem Jahr 2012 ergab, dass Vorhersagen von KI-Experten nicht zuverlässiger waren als die öffentliche Meinung. Die Autoren der aktuellen Umfrage wiesen ebenfalls darauf hin, dass KI-Forscher möglicherweise nicht über die Expertise verfügen, die zukünftige Entwicklung von KI vorherzusagen.

Beschleunigte Meilensteine und frühere Vorhersagen

Im Vergleich zu einer Version derselben Umfrage aus dem Jahr 2022 gingen viele KI-Forscher in der neuesten Umfrage davon aus, dass KI bestimmte Meilensteine früher erreichen würde als zuvor projiziert. Diese Vorhersagen fielen mit der November-2022-Einführung fortschrittlicher KI-Chatbot-Dienste wie ChatGPT und der schnellen Bereitstellung ähnlicher KI-Modelle im Silicon Valley zusammen.

Die Forscher sahen eine Wahrscheinlichkeit von 50 % oder höher voraus, dass KI-Systeme innerhalb des nächsten Jahrzehnts verschiedene Aufgaben erfolgreich bewältigen würden. Dazu gehörten das Erstellen von Songs, die von denen beliebter Künstler wie Taylor Swift nicht zu unterscheiden sind, und das Programmieren ganzer Zahlungsabweisungs-Websites von Grund auf. Andere komplexe Aufgaben, wie das physische Verlegen von Elektroinstallationen in Häusern oder das Lösen langjähriger mathematischer Rätsel, sollten jedoch länger dauern.

Die Aussicht, dass KI die menschliche Leistung in jeder Aufgabe übertrifft, wurde mit einer 50-prozentigen Chance bis 2047 bewertet, während die Möglichkeit, dass alle menschlichen Jobs vollständig automatisierbar werden, eine 50-prozentige Wahrscheinlichkeit bis 2116 erhielt. Diese Schätzungen markierten eine Beschleunigung von 13 Jahren bzw. 48 Jahren im Vergleich zur Umfrage des Vorjahres.

Unvorhersehbare KI-Durchbrüche und unmittelbare Bedenken

Trotz der erhöhten Erwartungen an die KI-Entwicklung äußerte Émile Torres Vorsicht bezüglich der Unvorhersehbarkeit technologischer Durchbrüche. Torres bemerkte, dass das KI-Feld in den 1970er und 80er Jahren zuvor Perioden reduzierter Finanzierung und des Unternehmensinteresses erlebt hatte, die als „KI-Winter“ bezeichnet wurden.

Darüber hinaus hoben KI-Forscher unmittelbare Bedenken hervor, wie den Missbrauch von KI, einschließlich Deepfakes, Manipulation der öffentlichen Meinung, die Entwicklung konstruierter Waffen, autoritäre Kontrolle über Bevölkerungen und verschärfende wirtschaftliche Ungleichheit. Torres betonte auch die potenziellen Gefahren, dass KI zur Desinformation in kritischen Fragen wie Klimawandel und demokratischer Governance beiträgt.

Die Umfrage unter KI-Forschern zeigt ein erhebliches Maß an Besorgnis innerhalb der KI-Community bezüglich der potenziellen Risiken, die mit der Entwicklung fortschrittlicher KI verbunden sind. Während der genaue prozentuale Risikofaktor für ein menschliches Aussterben durch KI ungewiss bleibt, unterstreicht der Glaube an ein nicht zu vernachlässigendes Risiko die Notwendigkeit fortlaufender ethischer und sicherheitsrelevanter Überlegungen in der KI-Entwicklung.

Trotz beschleunigter Vorhersagen für KI-Meilensteine erkennen Forscher die Unvorhersehbarkeit technologischer Fortschritte an und betonen unmittelbare Bedenken wie den Missbrauch von KI und gesellschaftliche Auswirkungen. Da KI weiterhin voranschreitet, müssen Forscher, politische Entscheidungsträger und die Gesellschaft als Ganzes diese Herausforderungen proaktiv und verantwortungsvoll angehen.