Balaji Srinivasan bezeichnet KI als die wirtschaftlich nützlichste Erfindung unserer Zeit

Balaji sagt, KI sei polytheistisch, nicht monotheistisch, was bedeutet, dass es kein einziges superintelligentes System gibt, das über allem herrscht. Stattdessen gibt es viele starke KIs, die jeweils von verschiedenen Akteuren unterstützt werden.

In seinen Worten: „Wir beobachten empirisch polytheistische KI… anstelle eines einzigen allmächtigen Modells.“ Das zerschlägt die Fantasie von einem einzigen AGI, das die Welt in Büroklammern verwandelt. Was wir haben, ist ein Kräftegleichgewicht zwischen vielen Mensch-KI-Kombinationen, nicht eine dominante Kraft.

Er sagt, KI funktioniert derzeit nur „von der Mitte zur Mitte“. Sie übernimmt keine vollständigen Aufgaben von Anfang bis Ende. Man braucht immer noch Menschen an beiden Enden; einer, der die KI anweist, und ein anderer, der überprüft, was sie ausgibt.

So haben sich alle echten Kosten und Anstrengungen an die Ränder verschoben: Anweisungen geben und Ergebnisse überprüfen. Dort geben Unternehmen jetzt ihr Geld aus, obwohl KI die Mitte des Prozesses beschleunigt.

KI macht Sie schlauer, aber nur, wenn Sie bereits schlau sind

Balaji nennt es nicht künstliche Intelligenz. Er nennt es verstärkte Intelligenz. Weil die KI nicht eigenständig handelt, ist sie nicht vollständig agentic, sie setzt keine langfristigen Ziele und kann ihre eigenen Ergebnisse nicht verifizieren. „Man muss viel Aufwand in das Anweisen, Überprüfen und System-Integration stecken“, sagte er. Wie nützlich KI also ist, hängt davon ab, wie schlau man ist. Wenn man ihr schlechte Anweisungen gibt, erhält man schlechte Ergebnisse.

Er sagt auch, KI ersetzt Sie nicht, sie hilft Ihnen nur, mehr Aufgaben zu erledigen. Damit können Sie sich als passabler UI-Designer oder Spiel-Animator durchmogeln. Erwarten Sie aber keine Expertenqualität. KI macht Sie gut genug, um durchschnittlich zu sein, nicht exzellent. Für echte Qualität benötigen Sie immer noch Spezialisten.

Es gibt noch einen weiteren Job, den es übernimmt, und das ist der Job der vorherigen Version von sich selbst. Midjourney verdrängte Stable Diffusion aus dem Workflow. GPT-4 übernahm den Platz von GPT-3. Wie Balaji es ausdrückt: „KI nimmt nicht Ihren Job, sondern den Job der vorherigen KI.“ Sobald Unternehmen einen Platz für KI in einem Workflow geschaffen haben, wie bei der Bilderstellung oder Codegenerierung, bleibt dieser Platz besetzt. Er wird einfach an das neuere, bessere Modell weitergegeben.

Er sagt auch, KI sei besser in visuellen Dingen als in Text. Es ist für Menschen einfacher, ein Bild zu beurteilen, als eine Wand aus Code oder Absätze von Text zu überprüfen. „Benutzeroberflächen und Bilder können vom menschlichen Auge leicht überprüft werden“, sagt Balaji. Bei Text ist es für Menschen langsamer und kostspieliger, die Genauigkeit zu überprüfen.

Krypto begrenzt, was KI kann und nicht kann

Balaji zieht eine Linie zwischen der Funktionsweise von KI und der Funktionsweise von Krypto. KI ist probabilistisch; sie schätzt basierend auf Mustern. Krypto ist jedoch deterministisch; es basiert auf harter, beweisbarer Mathematik. Daher wird Krypto zu einer Grenze, die KI nicht leicht überschreiten kann.

KI könnte Captchas knacken, aber sie kann einen Blockchain-Guthabenstand nicht fälschen. „KI macht alles falsch, aber Krypto macht es wieder echt“, sagt er. KI könnte einfache Gleichungen lösen, aber kryptografische Gleichungen halten sie jedoch auf.

Es gibt bereits eine Version der Killer-KI. Es sind Drohnen. „Jedes Land verfolgt sie“, sagt Balaji. Es sind nicht Bildgeneratoren oder Chatbots, die eine Bedrohung darstellen, sondern autonome Waffen. Das ist der Bereich, in dem die reale Wirkung der KI bereits tödlich ist.

Er argumentiert, dass KI dezentralisierend wirkt, nicht zentralisierend. Derzeit gibt es viele KI-Unternehmen, nicht nur ein oder zwei Giganten. Kleine Teams mit guten Tools können viel erreichen. Und Open-Source-Modelle verbessern sich schnell. Daher können auch kleine Gruppen ohne massive Budgets starke KI-Systeme aufbauen. Das zersplittert die Macht, anstatt sie zu konzentrieren.

Balaji lehnt auch die Idee ab, dass mehr KI immer besser ist. Er sagt, die ideale Menge ist nicht null, nicht 100 %. „0 % KI ist langsam, aber 100 % KI ist Müll.“ Der wahre Wert liegt dazwischen. Zu wenig KI bedeutet, dass man hinterherhinkt. Zu viel führt dazu, dass die Qualität zusammenbricht. Er vergleicht dies mit der Laffer-Kurve, einem Konzept in der Wirtschaftswissenschaft, das besagt, dass es einen goldenen Mittelweg zwischen Extremen gibt.

In seinem letzten Argument legt er dar, warum die heutigen Systeme eingeschränkte KIs sind und keine gottgleichen Maschinen. Er unterteilt dies in vier Arten von Grenzen:

• Wirtschaftlich: Jeder API-Aufruf kostet Geld. Der Einsatz von KI im großen Maßstab ist nicht kostenlos.
• Mathematisch: KI kann chaotische oder kryptografische Probleme nicht lösen.
• Praktisch: Man braucht immer noch Menschen, die Anweisungen geben und Ergebnisse überprüfen. KI kann die vollständige Aufgabe nicht allein abschließen.
• Physisch: KI sammelt keine realen Daten der physischen Welt. Sie kann ihre Umgebung nicht wahrnehmen oder interpretieren, wie Menschen es tun.

Er endet mit der Aussage, dass diese Grenzen möglicherweise später aufgehoben werden. Es ist möglich, dass zukünftige Forscher das System-1-Denken (schnell und intuitiv, wie bei KI) mit dem System-2-Denken verschmelzen können, das logischer und sorgfältiger ist, wie bei der herkömmlichen Datenverarbeitung. Aber im Moment ist das nur Theorie. Es bleibt ein ungelöstes Problem. Es gibt keine allwissende KI. Es gibt nur Werkzeuge (teure, begrenzte, wettbewerbsfähige Werkzeuge), die tun, was ihnen gesagt wird, und ständige Überwachung benötigen.