Bostoner Akademiker halten katastrophale KI-Befürchtungen für übertrieben und fehlgeleitet

Akademiker an dem Applied Ethics Center der UMass Boston untersuchen die Auswirkungen der Interaktion mit KI auf das Selbstverständnis der Menschen, und Nir Eisikovits glaubt insbesondere, dass diese katastrophalen Ängste übertrieben und fehlgeleitetsind. Zwar gibt es große menschliche Probleme (nicht verursacht durch KI, sondern durch Menschen), die die Aufmerksamkeit der politischen Entscheidungsträger erfordern. Die Argumentation lautet, dass diese Probleme seit einiger Zeit bestehen und kaum kataklysmisch sind.

In den letzten Monaten hat der Aufstieg der KI, veranschaulicht durch Systeme wie ChatGPT, weit verbreitete Ängste vor ihren potenziellen Gefahren ausgelöst. Einige haben sogar existenzielle Ängste und katastrophale Szenarien geäußert und die KI mit Pandemien und Atomkrieg verglichen. Nir bietet insbesondere das Konzept an, dass die wahre Gefahr in der subtilen Erosion wesentlicher menschlicher Qualitäten liegt, was eine Neubewertung dessen, was es bedeutet, im Zeitalter der KI menschlich zu sein, erforderlich macht.

Katastrophale Szenarien in Frage stellen

Zwar wurden Gedankenexperimente wie der „Paperclip-Maximizer“ verwendet, um potenzielle Risiken zu veranschaulichen, doch die Realität ist, dass bestehende KI-Anwendungen weit davon entfernt sind, die Fähigkeit zu besitzen, großflächige Katastrophen zu verursachen. Diese Szenarien gehören, obwohl sie faszinierend sind, eher in den Bereich der Science-Fiction als in den der unmittelbaren Bedrohungen. KI-Systeme konzentrieren sich heute auf spezifische Aufgaben und verfügen nicht über die ausgefeilte Urteilsfähigkeit und den Zugang zur kritischen Infrastruktur, die für die extremen Beispiele erforderlich sind.

Statt kataklysmischer Ereignisse liegt die wahre Gefahr in der allmählichen Transformation der menschlichen Existenz durch die zunehmende Integration von KI. Bestehende KI-Technologien haben bereits ihr Schadenspotenzial demonstriert, wie die Erstellung überzeugender Deep-Fake-Medien und die Aufrechterhaltung algorithmischer Verzerrungen in Entscheidungssystemen. Diese Probleme erfordern die Aufmerksamkeit und Regulierung durch politische Entscheidungsträger, sind aber keine existenziellen Bedrohungen für die Menschheit.

Die Abnahme menschlicher Qualitäten

Professor Nir Eisikovits argumentiert, dass die existenzielle Gefahr, die von KI ausgeht, einer anderen Natur ist – es handelt sich um ein philosophisches Risiko. KI hat das Potenzial, die Art und Weise zu verändern, wie Individuen sich selbst wahrnehmen, und kann grundlegende menschliche Fähigkeiten und Erfahrungen allmählich untergraben. Eine solche Fähigkeit ist die Urteilsbildung, ein Merkmal, das tief in der menschlichen Natur verwurzelt ist. Wenn mehr Urteile automatisiert und an Algorithmen delegiert werden, können Menschen die Fähigkeit verlieren, diese Urteile selbst zu treffen, was zu einem Rückgang ihrer Fähigkeit zur Vernunft und zu informierten Entscheidungen führt.

Ein weiterer entscheidender Aspekt der menschlichen Existenz, den KI beeinflusst, ist die Rolle des Zufalls und der Serendipität. Menschen schätzen unerwartete Begegnungen und das Element der Überraschung in ihrem Leben, doch algorithmische Empfehlungssysteme zielen darauf ab, solche serendipitären Erfahrungen durch Verlass auf Vorhersehbarkeit und Planung zu minimieren. Der allmähliche Ersatz des Zufalls durch Algorithmen könnte Individuen bedeutungsvolle und unerwartete Entdeckungen vorenthalten.

Darüber hinaus wecken die Fortschritte in den Schreibfähigkeiten der KI Bedenken hinsichtlich des Rückgangs der kritischen Denkfähigkeiten. Wenn KI-Technologie Schreibaufgaben in der Hochschulbildung ersetzt, könnten Pädagogen ein wertvolles Werkzeug verlieren, um Studenten beizubringen, kritisch zu denken und sich effektiv auszudrücken.

Die Bedeutung einer durchdachten Integration

Obwohl KI keine unmittelbare katastrophale Bedrohung darstellt, tragen die unkritische Übernahme und Integration von KI in verschiedenen Bereichen Konsequenzen nach sich. Prof. Eisikovits warnt, dass, wenn sich diese Entwicklungen ungehindert fortsetzen, menschliche Fähigkeiten wie Urteilsbildung, die Wertschätzung zufälliger Begegnungen und kritisches Denken im Laufe der Zeit abnehmen werden. Obwohl die menschliche Spezies diese Verluste überleben wird, wird die Qualität der menschlichen Existenz dadurch verarmt.

Inmitten der steigenden Ängste rund um die KI ist es entscheidend, zwischen übertriebenen katastrophalen Szenarien und den philosophischen Risiken zu unterscheiden, die mit ihrer Integration in die Gesellschaft verbunden sind. Während es unwahrscheinlich ist, dass KI ein apokalyptisches Ende herbeiführt, ist die Erosion wesentlicher menschlicher Qualitäten eine echte Sorge. Durch die Anerkennung und Bewältigung der subtilen Kosten der KI können politische Entscheidungsträger, Forscher und die Gesellschaft im Allgemeinen sicherstellen, dass KI-Technologien durchdacht integriert werden, um die menschliche Existenz zu verbessern, anstatt sie zu mindern.

Nir Eisikovits ist Professor für Philosophie und Gründungsdirektor des Zentrums für Angewandte Ethik. Bevor er an die UMass Boston kam, war er außerordentlicher Professor für Rechts- und Politikphilosophie an der Suffolk University, wo er das Graduiertenprogramm für Ethik und öffentliche Politik mitgründete und leitete. Die Forschung von Professor Eisikovits konzentriert sich auf die moralischen und politischen Dilemmata, die nach Kriegen entstehen. Er ist Autor von „A Theory of Truces“ (Palgrave MacMillan) und „Sympathizing with the Enemy: Reconciliation, Transitional Justice, Negotiation“ (Brill) und Mitherausgeber von „Theorizing Transitional Justice“ (Routledge). Er ist auch Gastherausgeber einer aktuellen Ausgabe von Theoria zu „The Idea of Peace in the Age of Asymmetrical Warfare.“ Mehr lesen über ihn.