OpenAI-Mitbegründer Ilya Sutskever gab auf der jüngsten jährlichen KI-Konferenz Einblicke in die Zukunft der künstlichen Intelligenz. Er sprach über das transformative Potenzial der KI, „unvorhersehbar“ zu werden, und hob gleichzeitig ihre Herausforderungen und Auswirkungen hervor.
Sutskever sprach am Freitag auf der NeurIPS-Konferenz über das Konzept der „superintelligenten KI“, die er als Systeme defi, die die menschlichen Fähigkeiten in einer Vielzahl von Aufgaben übertreffen.
OpenAI-Mitbegründer Ilya Sutskever glaubt, dass superintelligente KI „unvorhersehbar“ sein wird. https://t.co/vLHmqwQOJQ
— TechCrunch (@TechCrunch) 14. Dezember 2024
Er sagte voraus, dass solche Systeme sich qualitativ von der heutigen KI unterscheiden und in mancher Hinsicht unkenntlich sein würden. Laut Sutskever werden diese fortschrittlichen Systeme über Selbstbewusstsein, ein gewisses Maß an logischem Denken und die Fähigkeit verfügen, komplexe Szenarien aus begrenzten Daten zu verstehen.
„[Superintelligente] Systeme werden tatsächlich in einem realen Sinne handlungsfähig sein“, sagte er und stellte sie der aktuellen KI gegenüber, die er als nur „sehr geringfügig handlungsfähig“ beschrieb.
Sutskever: Aktuelle KI-Modelle sind begrenzt
Sutskever, der auf der Konferenz mit dem „Test of Time“-Preis ausgezeichnet wurde, räumte die Grenzen von vorab trainierten Modellen wie denen von OpenAIs ChatGPT ein. Obwohl aktuelle Systeme bemerkenswerte Fähigkeiten aufweisen, warnte er davor, dass die begrenzte Verfügbarkeit von Internetdaten zu einem Engpass wird.
Der komplette von @ilyasut ! zum Thema „Vorbereitungstraining ist tot“ und mehr pic.twitter.com/PigZVvcEGB
— Diego | KI 🚀 – e/acc (@diegocabezas01) 14. Dezember 2024
Sutskever schlug alternative Ansätze vor, darunter KI-Systeme, die ihre eigenen Daten generieren oder ihre Antworten verfeinern, um die Genauigkeit zu erhöhen. Diese Innovationen könnten, so seine Annahme, dazu beitragen, bestehende Einschränkungen zu überwinden.
Der Mitbegründer von OpenAI sprach auch die ethischen Implikationen superintelligenter KI an, darunter das Potenzial solcher Systeme, Rechte einzufordern. „Es wäre kein schlechtes Endergebnis, wenn KIs nichts weiter wollen, als mit uns zu koexistieren und einfach nur Rechte zu haben“, bemerkte er.
Er betonte jedoch die dem System inhärente Unvorhersehbarkeit von agentenbasierter und selbstbewusster KI, die sowohl Chancen als auch Herausforderungen für Entwickler und Regulierungsbehörden mit sich bringe.
OpenAI-CEO Altman prognostiziert Umbrüche und den Aufstieg von AGI
Anfang des Monats teilte OpenAI-CEO Sam Altman ähnliche Ansichten wie Sutskever hinsichtlich der Grenzen der Leistungsfähigkeit superintelligenter KI. Auf dem DealBook Summit der New York Times in New York City skizzierte Altman seine Vision für künstliche allgemeine Intelligenz (AGI). Er prognostizierte, dass AGI-KI-Systeme, die komplexe Aufgaben mit menschenähnlichem Denkvermögen bewältigen können, bereits 2025 Realität werden könnten.
„Ich denke, es ist möglich … im Jahr 2025 werden wir Systeme haben, die wir uns ansehen … und die Leute werden sagen: ‚Wow, das ändert, was ich erwartet habe‘“, sagte Altman.
Altman verglich die potenziellen Auswirkungen von KI mit der Erfindung des Transistors, der Industrien und Volkswirtschaften weltweit revolutionierte. Er beschrieb eine Zukunft, in der diese Technologie „verblüffend leistungsfähig“ sein wird.
„KI-Modelle werden immer breiter verfügbar und branchenübergreifend für vielfältige Anwendungen eingesetzt. „KI selbst, die Denkmaschine, wird zur Massenware werden“, meinte Altman und deutete an, dass ihre Integration in den Alltag ebenso transformativ sein wird wie frühere technologische Durchbrüche.
In seinem Auftritt hob Altman die weite Verbreitung von ChatGPT hervor und gab bekannt, dass das KI-Tool mittlerweile über 300 Millionen wöchentliche Nutzer hat. Er räumte die anhaltenden Diskussionen über die Sicherheit des Tools ein, betonte aber, dass der iterative Entwicklungs- und Implementierungsansatz entscheidend gewesen sei.
„Es gibt defiLeute, die ChatGPT für nicht ausreichend sicher halten“, sagte er, merkte aber an, dass OpenAI der Ansicht sei, dass eine frühe Einführung, wenn noch weniger auf dem Spiel stehe, für eine schrittweise Verbesserung unerlässlich sei.
Altmans Betonung der Sicherheit spiegelte die Bedenken der Branche hinsichtlich einer verantwortungsvollen KI-Entwicklung wider. Er räumte ein, dass ChatGPT zwar „mittlerweile von den meisten in der Gesellschaft als hinreichend sicher und robust angesehen wird“, die kontinuierliche Weiterentwicklung und Überwachung aber weiterhin Priorität haben.
Betrachtungen zur Führung und zur Entwicklung von OpenAI
Altmans Führungsstil hat die Entwicklung von OpenAI maßgeblich geprägt. Als Mitbegründer der Organisation im Jahr 2015, die damals noch als gemeinnütziges Forschungslabor diente, verfolgte er das Ziel, KI-Technologien zum Wohle der Menschheit voranzutreiben. Bevor er 2019 hauptberuflich zu OpenAI wechselte, war Altman von 2014 bis 2019dent von Y Combinator, einem führenden Startup-Accelerator.
OpenAI wandelte sich von einer gemeinnützigen Organisation zu einem gewinnorientierten Modell, um die für groß angelegte KI-Projekte notwendige Finanzierung zu sichern. Unter Altmans Führung brachte das Unternehmen ChatGPT und DALL-E auf den Markt, die die KI-Landschaft grundlegend verändert haben.
Der Weg verlief jedoch nicht ohne Schwierigkeiten. Im November 2023 wurde Altman vom OpenAI-Aufsichtsrat aufgrund von Bedenken hinsichtlich seiner Kommunikation mit den Aufsichtsratsmitgliedern vorübergehend abberufen . Der öffentlich ausgetragene Streit endete weniger als eine Woche später mit Altmans Wiedereinsetzung, da der Aufsichtsrat erklärte, man stehe nun in „gutem Einvernehmen“ mit dem CEO.
