OpenAI startet ‚Superalignment‘-Team, um Superintelligenzrisiken direkt anzugehen

OpenAI‘s CEO, Sam Altman, hat eine globale Kampagne gestartet, um das Bewusstsein für die potenziellen Gefahren von KI-Superintelligenz zu schärfen, bei der Maschinen die menschliche Intelligenz übertreffen und unkontrollierbar werden könnten.

Als Reaktion auf diese Bedenken hat OpenAI kürzlich die Bildung eines dedizierten Teams bekannt gegeben, das mit der Entwicklung von Methoden zur Bewältigung der mit Superintelligenz verbundenen Risiken beauftragt ist, die innerhalb dieses Jahrzehnts entstehen könnten.

Das Unternehmen betont, dass die effektive Verwaltung von Superintelligenz die Etablierung neuer Governance-Institutionen und die Lösung der kritischen Herausforderung der Ausrichtung der Superintelligenz auf menschliche Werte und Absichten erfordert.

OpenAI erkennt an, dass die Ausrichtung von AGI (Artificial General Intelligence) erhebliche Risiken für die Menschheit darstellt und möglicherweise eine kollektive Anstrengung der gesamten Menschheit erfordert, wie in einem letzten Jahr veröffentlichten Blogbeitrag festgestellt.

Das neu gegründete Team, getauft „Superalignment“, besteht aus erstklassigen Forschern und Ingenieuren im Bereich Machine Learning. Ilya Sutskever, Mitbegründer und Chief Scientist von OpenAI, und Jan Leike, der Leiter der Ausrichtung, leiten dieses Vorhaben.

Um die Kernherausforderungen der Superintelligenz-Ausrichtung zu bewältigen, hat sich OpenAI verpflichtet, 20 % seiner bisher erworbenen Rechenressourcen dem Ausrichtungsproblem zu widmen. Das Unternehmen erwartet, dass es diese Herausforderungen innerhalb von vier Jahren lösen wird.

Das primäre Ziel des Superalignment-Teams ist die Entwicklung eines automatisierten Ausrichtungsforschers auf menschlichem Niveau. Dies beinhaltet die Schaffung von KI-Systemen, die Superintelligenz-KI-Systeme effektiv ausrichten und Menschen in Geschwindigkeit und Präzision übertreffen.

Um diesen Meilenstein zu erreichen, wird sich das Team auf die Entwicklung einer skalierbaren Trainingsmethode konzentrieren, die KI-Systeme zur Bewertung anderer KI-Systeme nutzt. Sie werden ihr resultierendes Modell validieren, indem sie die Suche nach potenziell problematischem Verhalten automatisieren. Die Ausrichtungs-Pipeline wird auch rigorosen Stresstests unterzogen, indem absichtlich fehlgeleitete Modelle trainiert werden, um ihre Erkennbarkeit zu messen.

OpenAIs Bemühungen, Superintelligenzrisiken anzugehen, markieren einen bedeutenden Schritt vorwärts in der Verfolgung einer verantwortungsvollen und ausgerichteten KI-Entwicklung. Durch die Zusammenstellung eines Teams aus Top-Forschern und die Verpflichtung erheblicher Rechenressourcen demonstriert das Unternehmen sein Engagement, die potenziellen Risiken, die mit dem Aufkommen von Superintelligenz verbunden sind, proaktiv zu mindern. Während sie diese ehrgeizige Reise antreten, setzt OpenAI ein Präzedenzfall für Zusammenarbeit und Einheit im Schutz der Zukunft der Menschheit im Zeitalter der KI.