Altman skizziert drei KI-Endszenarien: Inspektor, Fusion oder geschmolzene GPUs

Fortschrittliche KI könnte nach Ansicht von Sam Altman von OpenAI in drei möglichen Szenarien enden: einem internationalen Inspektor im Stil einer Atomwächterorganisation, einer Fusion der führenden KI-Labore oder einem einzelnen Unternehmen, das „die GPUs aller anderen schmelzen“ kann.

Die Kommentare von Altman, berichtet von The Information, treffen auf den Zeitpunkt, als OpenAI weiterhin verschiedene Vorteile bei potenziellen Endspielszenarien für KI anstrebt, darunter die Einrichtung eines privaten Sicherheitsregulators, Gespräche über Verlangsamungen, die eine Kartellklage nach sich gezogen haben, und eine geplante Kapitalerhöhung in Höhe von 30 Milliarden Dollar zur Aufrechterhaltung des Vorsprungs gegenüber dem Konkurrenten Anthropic. 

Altman sieht, dass fortschrittliche KI auf eine von drei Arten endet

The Information berichtete dass Sam Altmans Vorhersage für die Zukunft fortschrittlicher KI in einem von drei Szenarien mündet. 

Zwei der drei Pfade münden in einer Konzentrationsphase. In einem davon sieht Altman ein Unternehmen, das einen so großen Vorsprung aufbaut, dass es die Hardware von Konkurrenten lahmlegen und alle anderen komplett vom Netz nehmen kann. Im anderen Szenario prognostiziert Altman, dass führende Labore durch Fusionen zu einer einzigen Einheit verschmelzen. 

Nur ein Szenario hält mehrere Akteure im Spiel: jenes, bei dem ein externer Inspektor die Aufsicht über den Bereich behält.

Altman hat die Idee des Inspektors bereits zuvor in OpenAIs 2023 „Governance of superintelligence“-Aufsatz vorgestellt. Das Stück aus 2023, das auch Greg Brockman und Ilya Sutskever als Co-Autoren nennt, besagte, dass „etwas wie eine IAEA“ nötig sei, um Systeme zu inspizieren, Audits einzufordern und die Sicherheitskonformität der leistungsfähigsten Systeme zu überprüfen.

OpenAI hilft bereits beim Aufbau eines Standardregulators 

OpenAI arbeitet bereits mit Google, OpenAI und Anthropic zusammen daran, bis Ende 2026 oder Anfang 2027 die Standards Authority for Frontier AI zu gründen – eine Selbstregulierungsbehörde ohne staatliche Aufsicht. Der Regulator ähnelt jedoch eher dem Vorbild der FINRA, der Aufsichtsbehörde für US-Brokerage-Firmen, nicht der im Aufsatz von 2023 vorgeschlagenen IAEA-ähnlichen Struktur.

Altman erklärte im September vor dem UN-Sicherheitsrat, dass OpenAI das Tempo drosseln werde, und forderte nationale sowie internationale Standards. OpenAI hat Washington zudem aufgefordert, eine globale Standardisierungsinitiative für sich selbst verbessernde Systeme anzuführen.

Präsident Donald Trump stellte Ende September ein freiwilliges Abkommen vor, bei dem führende KI-Labore vereinbarten, die Selbstkontrolle zu übernehmen. 

Doch diese Selbstregulierungsabkommen stießen auf Kritik aus verschiedenen Lagern, darunter vom ehemaligen Meta-Executive Nick Clegg und Bill Gates.

Unternehmen werden wegen des KI-Tempo-Drosselungsabkommens verklagt 

Vier zahlende Abonnenten von ChatGPT, Claude, Grok und Gemini haben eine Klage für eine vorgeschlagene landesweite Sammelklage eingereicht. Eine im September in der Northern District of California eingereichte kartellrechtliche Klage wirft Anthropic, OpenAI, SpaceX AI und Google vor, sich illegal darauf geeinigt zu haben, die Entwicklung von KI zu verlangsamen.

Die Klage konzentriert sich auf einen September-Aufsatz von Anthropic-CEO Dario Amodei, dessen Plan „Pacing the Frontier“ (das Tempo an der Spitze halten) eingebettete unabhängige Prüfer und branchenweite Grenzen dafür vorsah, wie schnell Fortschritte erzielt werden dürfen. 

Altman, Elon Musk und Demis Hassabis von Google DeepMind unterstützten die Vorschläge am selben Tag öffentlich. 

Altman hat versucht, trotz allem weiterzumachen. Er begrüßte einen „föderalen Rahmen, der einheitliche Sicherheitsanforderungen festlegt“, sagte jedoch, dass OpenAI nicht „auf eine Kartellausnahme oder Gesetzgebung warten muss, um mit der Arbeit zu beginnen.“ 

OpenAI hatte zuvor Mitglieder des Kongresses gefragt, ob eine branchenweite Verlangsamung überhaupt legal wäre, WIRED berichtete.

OpenAI zielt auf eine Finanzierung von 30 Milliarden Dollar 

Trotz aller Diskussionen über Tempolimits bremst OpenAI bei der Mittelbeschaffung nicht. Das Unternehmen drängt darauf, eine Runde von rund 30 Milliarden US-Dollar abzuschließen, die das Unternehmen auf mehr als 1,4 Billionen US-Dollar bewerten könnte, und will den erwarteten Börsengang von Anthropic Mitte November übertreffen. Cryptopolitan berichtete, unter Berufung auf Reuters.

Die Dringlichkeit ist wettbewerbsbedingt. OpenAI und Anthropic jagen dieselben staatlichen Fonds und institutionellen Investoren, und OpenAI möchte seine Bewertung vor den finanziellen Offenlegungen von Anthropic fixieren, damit für die Unterstützer ein klarerer Vergleich möglich ist. 

OpenAI hat Investoren mitgeteilt, dass der annualisierte Umsatz nach dem Start von GPT-6 Astra 50 Milliarden US-Dollar erreicht hat und bis Ende des Jahres 70 Milliarden US-Dollar erreichen könnte.