Vitalik warnt: KI muss die Menschheit stärken, nicht schwächen

Ethereum -Mitbegründer Vitalik Buterin mahnte zu einer sorgfältigen Entwicklung der künstlichen Intelligenz (KI) und sagte, sie solle der Menschheit helfen,tronzu werden, und nicht Systeme schaffen, die den Menschen die Kontrolle entziehen könnten.

Buterin schrieb über die zukünftige Entwicklung der künstlichen Intelligenz. In einer Reihe von Beiträgen der Ethereum -Mitbegründer deutlich, dass KI die Menschheit stärken und nicht entmachten sollte.

KI sollte den Menschen helfen, nicht die Kontrolle übernehmen

Er warnte davor, dass „schlecht konzipierte KI-Systeme etwas hervorbringen könnten, das mehr oder weniger eine unkontrollierbare, sich selbst replizierende Entität ist.“

Falsch angewandte KI führt zur Entstehung neuer Formen unabhängigendent sich selbst replizierenden intelligenten Lebens, schrieb Buterin. „Richtig angewandte KI ist wie ein Mecha-Anzug für den menschlichen Geist. Konzentrieren wir uns auf Ersteres ohne Letzteres, riskieren wir die dauerhafte Entmachtung des Menschen. Konzentrieren wir uns auf Letzteres, entsteht eine blühende, superintelligente menschliche Zivilisation.“

Er ist der Ansicht, dass KI das menschliche Denken, die Kreativität usw. erweitern sollte, ähnlich wie ein „Mecha-Anzug“, der die Kraft des Trägers verstärkt. Demgegenüber stehen laut seiner Meinung die Gefahren autonomer KI-Systeme ohne menschliche Aufsicht, die letztendlich zu einem Kontrollverlust über die von uns geschaffene Technologie führen könnten.

Buterin schlägt weiterhin vor, „gebündeltes menschliches Urteilsvermögen“ als kollektives Mittel zur Verbesserung der Entscheidungsfindung einzusetzen. Er beschreibt dies als die Entwicklung von Systemen, die qualitativ hochwertige menschliche Entscheidungsprozesse imitieren, aber effizienter als Menschen arbeiten können.

So könnten die Menschen die Kontrolle behalten und gleichzeitig die Vorteile der Fähigkeiten der KI nutzen.

Letzteres könne auf kollektiver Ebene durch die Zusammenfassung menschlicher Urteilskraft geschehen, erklärte er; die kollektive menschliche Intelligenz könne Anleitungen geben, um der KI zu helfen, die menschlichen Fähigkeiten zu erweitern, anstatt sie zu ersetzen.

Die Risiken unkontrollierter KI-Systeme

Buterin stellt klar, dass die aufkommenden KI-Tools – wie beispielsweise diese Echtzeit-Videogenerierungssoftware – ein Beispiel für ein KI-System darstellen, das tatsächlich stärkt, während der „Weg des ‚passiven Systems‘, wie beispielsweise das Text-zu-Bild-Modell, bei dem der Einfluss des Benutzers minimal ist“, ist

„So funktioniert es nicht: Einfach reagieren und warten. Zielen und sich auf eine konstante Echtzeitbasis einstellen“, fügt er hinzu und deutet damit eine engere und stärkere Dynamik zwischen Mensch und KI an.

Anschließend sprach er über KI-Agenten: Programme, die Aufgaben ohne menschliches Eingreifen erledigen. Er erklärte zwei Arten: solche, die langfristige, komplexe Planungen durchführen, und einfachere KI-Tools wie Chatbots, die grafische Benutzeroberflächen ersetzen. Letztere, sagte er, „ersetzen grafische Benutzeroberflächen als Schnittstelle zu allem. Das ist großartig!“

Letztendlich plädiert Buterin für eine verantwortungsvolle KI-Entwicklung, um die Menschheit zu stärken. Er ist kein Befürworter eines unkontrollierten, ungezügelten Vordringens hin zu autonomen Systemen, sondern sieht vielmehr Werkzeuge, die dazu dienen, die menschlichen Fähigkeiten zu erweitern. „Richtig eingesetzt“, so seine Überzeugung, „kann KI zu einer blühenden, superintelligenten Zivilisation führen.“