Microsoft-KI-Chef verspricht Entwicklungsstopp, falls die Technologie eine existenzielle Gefahr darstellt

Mustafa Suleyman, Leiter der Abteilung für künstliche Intelligenz bei Microsoft für Endverbraucher, erklärt, er werde die Entwicklung sofort einstellen, falls fortgeschrittene KI jemals die Sicherheit von Menschen gefährden sollte.

In der Bloomberg-Sendung „The Mishal Husain Show“ versicherte Mustafa, dass Microsofts Fokus auf dem Aufbau von Superintelligenz liege, die auf die Interessen der Menschen ausgerichtet sei, und nicht auf der Jagd nach roher Macht um jeden Preis.

„Wir werden kein System weiterentwickeln, das das Potenzial hat, außer Kontrolle zu geraten“, sagte Mustafa in dem Interview. Er fügte hinzu, diese Haltung sei unstrittig und selbstverständlich, auch wenn sie in der KI-Branche seiner Meinung nach noch selten sei.

Microsoft erhält die Freiheit zurück, fortschrittliche KI-Systeme zu entwickeln.

Mustafa wechselte Anfang letzten Jahres zu Microsoft, nachdem das Unternehmen die geistigen Eigentumsrechte und einen Großteil des Teams hinter seinem Startup Inflection AI übernommen hatte, nachdem es OpenAI zugunsten von KI-Tools für Endverbraucher aufgegeben hatte.

Nach der Übernahme wurde Mustafa damit beauftragt, Produkte zu entwickeln, die direkt mit den bereits auf dem Markt befindlichentronModellen konkurrieren konnten.

Über weite Strecken dieser Zeit war seine Arbeit eingeschränkt.tracBestimmungen im Zusammenhang mit der Partnerschaft von Microsoft mit OpenAI hinderten das Unternehmen daran, künstliche allgemeine Intelligenz zu entwickeln – defials Systeme, die auf menschlichem Niveau agieren können – sowie Superintelligenz, die die menschlichen Fähigkeiten übertreffen würde.

Mustafa erklärte, Microsoft habe diese Rechte im Austausch für den Zugang zu den neuesten Modellen von OpenAI aufgegeben. Diese Vereinbarung beinhaltete auch, dass Microsoft über mehrere Jahre hinweg Rechenzentren für OpenAI aufbaute und ausstattete.

Diese Struktur änderte sich im Oktober. Ein neuer Vertrag gestaltete die Beziehung neu und gab die Entwicklungsrechte an Microsoft zurück.

Mustafa erklärte, OpenAI habe nun Infrastrukturvereinbarungen mit anderen Partnern, darunter SoftBank und Oracle, getroffen, um mehr Rechenzentren zu bauen, als Microsoft ursprünglich bereitstellen wollte. „Sie haben jetzt Verträge mit SoftBank und vielen anderen – darunter Oracle –, um mehr Rechenzentren zu errichten, als Microsoft für sie bauen wollte“, sagte er. „Und im Gegenzug haben wir das Recht, unsere eigene KI zu entwickeln.“

Er sagte, Microsoft sei in den letzten 18 Monaten ein Entwickler von KI-Systemen für allgemeine Zwecke geblieben, gehe nun aber in Bereiche über, die die menschliche Leistungsfähigkeit bei verschiedenen Aufgaben übertreffen könnten.

„Wir waren in den letzten 18 Monaten immer noch ein Unternehmen für allgemeine KI-Entwicklung, aber jetzt können wir an Techniken und Methoden arbeiten, die das Potenzial haben, die menschliche Leistung bei allen Aufgaben zu übertreffen“, sagte. „Und deshalb bedeutet das einen Wandel für uns.“

Suleyman skizziert ein vorsichtiges Vorgehen, da die Werkzeuge noch nicht fertiggestellt sind.

Letzten Monat hatte Mustafa das Projekt zur Entwicklung von Superintelligenz in einem Blogbeitrag offiziell angekündigt und Microsofts Position dargelegt, dass solche Systeme dem Wohl der Menschen dienen müssen. Andere große Akteure wie OpenAI und Anthropic PBC äußern sich häufig ähnlich hinsichtlich Sicherheit und Nutzen für die Menschheit.

„Jeder muss selbst entscheiden, wofür er steht und wie er handelt, und ich möchte ihr aktuelles Vorgehen nicht beurteilen“, sagte er. „Ich sehe keine Anzeichen für großflächige Massenschädigung.“

Trotz des langfristigen Fokus auf Superintelligenz sagte Mustafa, die aktuelle Debatte bleibe rein akademischer Natur.

Verbraucher erwarten Assistenten, die Aufgaben wie Ticketbuchungen oder Einkaufsplanungen übernehmen können. Führungskräfte erwarten Produktivitätssteigerungen. Beide Gruppen haben dieses Ziel noch nicht vollständig erreicht.

Mustafa nannte Microsofts Copilot-Benutzerassistenten als Beweis. Er sagte, dessen agentenähnliche Funktionen würden noch getestet und funktionierten nicht immer wie gewünscht.

„Wir experimentieren noch damit“, sagte Mustafa. „Aber wenn es funktioniert, ist es das Magischste, was man je gesehen hat.“