OpenAI-Mitbegründer warnt: Superintelligente KI wird „unberechenbar“ sein

OpenAI-Mitbegründer Ilya Sutskever gab während der jüngsten jährlichen KI-Konferenz Einblicke in die Zukunft der künstlichen Intelligenz. Er sprach über das transformative Potenzial der KI, „unberechenbar“ zu werden, und hob dabei ihre Herausforderungen und Implikationen hervor.

Sutskever, der am Freitag auf der NeurIPS-Konferenz sprach, erforschte das Konzept der „superintelligenten KI“, das er als Systeme definierte, die die menschlichen Fähigkeiten in einer breiten Palette von Aufgaben übertreffen. 

OpenAI-Mitbegründer Ilya Sutskever glaubt, dass superintelligente KI „unberechenbar“ sein wird https://t.co/vLHmqwQOJQ

— TechCrunch (@TechCrunch) Dezember 14, 2024

Er sagte voraus, dass solche Systeme qualitativ anders sein würden als die heutige KI und in gewisser Hinsicht unerkennbar. Laut Sutskever werden diese fortschrittenen Systeme Selbstbewusstsein, ein gewisses Maß an Vernunft und die Fähigkeit besitzen, komplexe Szenarien aus begrenzten Daten zu verstehen. 

“[Superintelligente] Systeme werden tatsächlich in echtem Sinne agierend sein,” sagte er und stellte sie in Gegensatz zur aktuellen KI, die er als nur „sehr leicht agierend“ beschrieb.

Sutskever: Aktuelle KI-Modelle sind begrenzt

Bei der Verleihung eines „Test of Time“-Preises auf der Konferenz erkannte Sutskever die Grenzen von Pre-Training-Modellen an, wie sie in OpenAIs ChatGPT verwendet werden. Während aktuelle Systeme bemerkenswerte Fähigkeiten zeigen, warnte er, dass die endliche Natur der Internetdaten zu einem Engpass wird. 

Voll @ilyasut TALK! darüber, dass Pre-Training tot ist und mehr pic.twitter.com/PigZVvcEGB

— Diego | AI 🚀 – e/acc (@diegocabezas01) 14. Dezember 2024

Sutskever schlug alternative Ansätze vor, darunter KI-Systeme, die ihre eigenen Daten generieren oder ihre Antworten verfeinern, um die Genauigkeit zu verbessern. Diese Innovationen könnten, so schlug er vor, dazu beitragen, bestehende Grenzen zu überwinden.

Der OpenAI-Mitbegründer ging auch auf die ethischen Implikationen superintelligenter KI ein, einschließlich der Möglichkeit, dass solche Systeme Rechte fordern könnten. „Es ist kein schlechtes Endergebnis, wenn du AIs hast, und alles, was sie wollen, ist, mit uns koexistieren zu wollen und einfach Rechte zu haben,,” bemerkte er. 

Allerdings betonte er die inhärente Unberechenbarkeit agierender und selbstbewusster KI, die sowohl Chancen als auch Herausforderungen für Entwickler und Regulierungsbehörden mit sich bringt.

OpenAI-CEO Altman sagt Störung und das Aufkommen von AGI voraus

Anfang dieses Monats teilte OpenAI-CEO Sam Altman ähnliche Ansichten wie Sutskever bezüglich der Obergrenze der Leistung superintelligenter KI. Auf dem DealBook-Gipfel der New York Times in New York City skizzierte Altman seine Vision für allgemeine künstliche Intelligenz (AGI). Er sagte voraus, dass AGI-KI-Systeme, die komplexe Aufgaben mit menschlicher Vernunft ausführen können, bereits 2025 Realität werden könnten. 

“Ich denke, es ist möglich … im Jahr 2025 werden wir Systeme haben, die wir uns ansehen … und die Leute werden sagen: ‚Wow, das verändert das, was ich erwartet habe,’” sagte Altman.

Altman im Vergleich die potenzielle Auswirkung der KI auf die Erfindung des Transistors, der Industrien und Volkswirtschaften weltweit revolutionierte. Er beschrieb eine Zukunft, in der dies „erschreckend fähig“ sein wird. 

“KI-Modelle werden weit verbreitet verfügbar sein und in verschiedenen Branchen für unterschiedliche Anwendungen genutzt werden. „KI selbst, die Vernunftmaschine, wird zur Ware werden,” meinte Altman und schlug vor, dass ihre Integration in den Alltag ebenso transformativ sein wird wie vergangene technologische Durchbrüche.

Während seines Auftritts hob Altman die weit verbreitete Einführung von ChatGPT hervor und enthüllte, dass das KI-Tool jetzt mehr als 300 Millionen wöchentliche Nutzer hat. Er erkannte anhaltende Debatten über seine Sicherheit an, bestand aber darauf, dass der iterative Entwicklungs- und Bereitstellungsansatz entscheidend gewesen sei. 

“Es gibt definitiv Leute, die denken, ChatGPT ist nicht sicher genug,” sagte er, merkte aber an, dass OpenAI der Ansicht ist, dass die frühe Einführung, wenn die Risiken geringer sind, für eine schrittweise Verbesserung von entscheidender Bedeutung ist.

Altmans Betonung der Sicherheit spiegelte die Bedenken der Branche hinsichtlich der verantwortungsvollen KI-Entwicklung wider. Er erkannte an, dass ChatGPT „jetzt allgemein von der Mehrheit der Gesellschaft als akzeptabel sicher und robust angesehen wird“, aber dass kontinuierliche Verfeinerung und Aufsicht weiterhin Prioritäten bleiben.

Reflexionen über Führung und die Entwicklung von OpenAI

Altmans Führungsweg hat eine entscheidende Rolle bei der Prägung von OpenAIs Entwicklung gespielt. Bei der Gründung der Organisation im Jahr 2015 als gemeinnützige Forschungseinrichtung hatte er das Ziel, KI-Technologien zum Wohl der Menschheit voranzutreiben. Bevor Altman 2019 Vollzeit zu OpenAI stieß, diente er als Präsident von Y Combinator, einem führenden Startup-Beschleuniger, von 2014 bis 2019.

OpenAI wechselte von seinen gemeinnützigen Ursprüngen zu einem Modell mit begrenztem Gewinn, um die für groß angelegte KI-Projekte benötigten Mittel zu sichern. Unter Altmans Führung startete das Unternehmen ChatGPT und DALL-E, die die KI-Landschaft neu geformt haben. 

Die Reise war jedoch nicht ohne Herausforderungen. Im November 2023 wurde Altman kurzzeitig entlassen aus seiner Rolle vom OpenAI-Verwaltungsrat aufgrund von Bedenken hinsichtlich seiner Kommunikation mit den Vorstandsmitgliedern. Der Streit, der öffentlich ausgetragen wurde, endete weniger als eine Woche später mit Altmans Wiedereinsetzung, da der Verwaltungsrat behauptete, nun „gute Beziehungen“ zum CEO zu haben.