Microsoft-KI-Chef verspricht Entwicklungsstopp, wenn Technologie existenzielles Risiko darstellt

Mustafa Suleyman, Chef der Consumer-KI bei Microsoft, sagt, er werde die Entwicklung sofort stoppen, falls fortschrittliche KI jemals die menschliche Sicherheit bedrohen sollte.

In der Sendung „The Mishal Husain Show“ von Bloomberg versicherte Mustafa, dass der Fokus von Microsoft auf dem Aufbau einer Superintelligenz liegt, die mit menschlichen Interessen im Einklang steht, und nicht auf der Verfolgung roher Macht um jeden Preis.

„Wir werden die Entwicklung eines Systems, das das Potenzial hat, uns zu entkommen, nicht fortsetzen“, sagte Mustafa während des Interviews. Er fügte hinzu, dass diese Haltung nicht kontrovers sein sollte und sie als offensichtlich bezeichnete, obwohl er glaubt, dass sie in der KI-Branche immer noch selten ist.

Microsoft gewinnt wieder die Freiheit, fortschrittliche KI-Systeme zu entwickeln

Mustafa trat Anfang letzten Jahres Microsoft bei, nachdem das Unternehmen die geistigen Eigentumsrechte und einen Großteil des Teams hinter seinem Startup Inflection AI übernommen hatte, nachdem Microsoft sich von OpenAI für verbraucherorientierte KI-Tools abgewandt hatte.

Nach der Übernahme wurde Mustafa beauftragt, Produkte zu entwickeln, die direkt mit den stärksten Modellen auf dem Markt konkurrieren könnten.

Großteil dieser Zeit war seine Arbeit mit Einschränkungen verbunden. Vertragliche Bedingungen, die mit Microsofts Partnerschaft mit OpenAI verbunden waren, blockierten die Entwicklung von künstlicher Allgemeiner Intelligenz (AGI), definiert als Systeme, die auf menschlichem Niveau performen können, sowie von Superintelligenz, die menschliche Fähigkeiten übertreffen würde.

Mustafa sagte, Microsoft habe auf diese Rechte verzichtet, um Zugang zu den neuesten Modellen von OpenAI zu erhalten. Diese Vereinbarung umfasste auch, dass Microsoft über mehrere Jahre Datenzentren für OpenAI baut und ausstattet.

Diese Struktur änderte sich im Oktober. Ein neuer Deal formte die Beziehung neu und übertrug die Entwicklungsrechte zurück an Microsoft.

Mustafa sagte, OpenAI habe nun Infrastrukturvereinbarungen mit anderen Partnern, einschließlich SoftBank und Oracle, um mehr Datenzentren zu bauen, als Microsoft sich zu verpflichten bereit war. „Sie haben nun Verträge mit SoftBank und vielen anderen – Oracle – um mehr Datenzentren zu bauen, als Microsoft für sie bauen wollte“, sagte er. „Und so haben wir dann das Recht, unsere eigene KI zu entwickeln.“

Er sagte, Microsoft sei in den vergangenen 18 Monaten ein Entwickler für allgemeine KI geblieben, bewege sich nun aber in Bereiche, die die menschliche Leistung bei Aufgaben übertreffen könnten.

„Wir waren in den letzten 18 Monaten immer noch ein Unternehmen für allgemeine KI-Entwicklung, aber jetzt können wir an Techniken und Methodiken arbeiten, die das Potenzial haben, die menschliche Leistung bei allen Aufgaben zu übertreffen“, sagte Mustafa . „Und das ist für uns ein Wandel.“

Suleyman skizziert vorsichtigen Ansatz, während Tools noch unvollendet sind

Letzten Monat hatte Mustafa die Superintelligenz-Bemühungen in einem Blogbeitrag offiziell angekündigt, in dem Microsofts Position dargelegt wurde, dass solche Systeme so gestaltet sein müssen, dass sie den Menschen dienen. Andere große Akteure, einschließlich OpenAI und Anthropic PBC, machen oft ähnliche Aussagen über Sicherheit und menschlichen Nutzen.

„Jeder muss entscheiden, wofür er steht und wie er operiert, und ich möchte nicht urteilen, wie sie gerade operieren“, sagte er. „Ich sehe keine Anzeichen für großflächige Massen schaden.“

Trotz des langfristigen Fokus auf Superintelligenz sagte Mustafa, die aktuelle Debatte bleibe akademisch.

Verbraucher erwarten Assistenten, die Aufgaben wie das Buchen von Tickets oder das Organisieren von Einkaufsplänen bewältigen können. Führungskräfte erwarten Produktivitätssteigerungen. Keine der beiden Gruppen ist bisher vollständig dort angekommen.

Mustafa verwies auf Microsofts Consumer-Assistent Copilot als Beweis. Er sagte, seine agentenähnlichen Funktionen würden noch getestet und funktionieren nicht immer wie beabsichtigt.

„Wir experimentieren noch damit“, sagte Mustafa. „Aber wenn es funktioniert, ist es das magischste Ding, das man je gesehen hat.“