OpenAI stellt Sicherheits- und Sicherheitsausschuss vor, um ihre KI-Projekte zu überwachen
Chris Murithi
2 Min. Lesezeit
- OpenAI löste sein KI-Sicherheitsteam auf, richtete jedoch ein neues Sicherheitskomitee ein.
- Der GPT-5-Prototyp, der in Zukunft erwartet wird, wird mit Verbesserungen gegenüber GPT-4 interessant sein.
- OpenAI beginnt mit dem Training von Modellen der nächsten Generation mit dem Ziel künstlicher Allgemeiner Intelligenz.
Um die Sicherheit von Machine-Learning-Projekten zu erhöhen, hat OpenAI die Bildung eines Sicherheits- und Sicherheitsausschusses angekündigt. Dieser neue Governance-Körper entsteht im Licht kürzlicher Veränderungen in der Organisation, wie der Abschaffung des internen Superalignment-Teams, das sich mit Risiken durch KI befasst.
Die Ankündigung des Ausschusses folgt einer Reihe strategischer Veränderungen im Unternehmen, neben dem Beginn des Trainings für das nächste Modell des Unternehmens, was auf einen Fortschritt hin zur AGI hindeutet.
Der OpenAI-Verwaltungsrat bildet ein Sicherheits- und Sicherheitsausschuss, der für die Abgabe von Empfehlungen zu kritischen Sicherheits- und Sicherheitsentscheidungen für alle OpenAI-Projekte zuständig ist. https://t.co/tsTybFIl7o
— OpenAI (@OpenAI) Mai 28, 2024
OpenAI stellt neuen Ausschuss für verbesserte Aufsicht über KI vor
Die Entwickler von GPT-4, OpenAI, haben ihr Spiel weiter verbessert, indem sie einen neunköpfigen Sicherheits- und Sicherheitsausschuss ins Leben gerufen haben. Dieses Gremium umfasst die Führungskräfte der Organisation: Sam Altman als CEO und Vorstandsvorsitzender, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight und Jakub Pachocki. Ihre Hauptaufgabe wird darin bestehen, den Umgang mit dem KI-Risikomanagementprozess zu verbessern. Ein detaillierter Bericht soll dem Verwaltungsrat innerhalb der nächsten neunzig Tage vorgelegt werden.
Auch lesen: Amazon hat Schwierigkeiten, Nvidias Dominanz bei KI-Chips herauszufordern
OpenAIs Verschiebung der Sicherheitsaufsicht folgt zahlreichen Führungswechseln wie dem Austritt von Ilya Sutskever und Jan Leike sowie der Auflösung des Superalignment-Teams, das für die KI-Sicherheit zuständig war. Diese Umstrukturierung zeigt OpenAIs Wunsch, seine KI-Risikomanagementstrategien zu verbessern und gleichzeitig die Grenzen der KI-Innovation zu erweitern.
OpenAI trainiert das nächste Frontier-Modell
Zusätzlich zum neuen Ausschuss hat OpenAI mit dem Training dessen begonnen, was sie ihr nächstes Frontier-Modell nennen. Dieses Modell zielt darauf ab, die Fähigkeiten der aktuellen Modelle zu übertreffen und sich der Verwirklichung der AGI zu nähern. Dieser Schritt ist Teil ihrer anhaltenden Mission, KI-Lösungen zu schaffen, die verschiedene Aufgaben effektiv und effizient ausführen können. OpenAIs Chief Technology Officer Mira Murati bemerkte, dass die wichtigsten Updates von GPT-4 erhebliche Verbesserungen im Modell darstellen und solche Entwicklungen in der Technologie und den damit verbundenen Anwendungsfällen widerspiegeln könnten.
Auch lesen: Chinas KI-Unternehmen beginnen einen harten Preiskrieg
Neueste Erkenntnisse von Microsoft, einem wichtigen Partner, der Cloud-Infrastruktur für KI-Forschung liefert, deuten darauf hin, dass das neue Modell einen großen Fortschritt darstellen wird, den Tom Warner, CTO von Microsoft, als einen Wechsel von einem „Orca“ zu einem „Wal“ in Bezug auf Fähigkeiten und Größe charakterisiert.
Die Erwartungshaltung um GPT-5 intensiviert sich
Vor dem Hintergrund dieser Trends gibt es Gerüchte über die Vorversion von OpenAIs nächstgeneration Sprachmodell, das als GPT-5 bezeichnet wird. Berichte aus dem März zeigen, dass nur eine kleine Anzahl von Nutzern dieses Prototyp verwendet haben und Verbesserungen im Vergleich zu GPT-4 festgestellt haben. Dieser Hype hat enorme Erwartungen bei der technikaffinen Bevölkerung und der Allgemeinheit geweckt, da die Stakeholder gespannt darauf sind, mehr über die Perspektiven dieses neuen Modells zu erfahren.
Alles, was OpenAI getan hat, von der Umstrukturierung des Sicherheitsrats bis hin zum Vorantreiben seiner Technologie, deutet auf das große Ganze hin, seine Position als eines der führenden Unternehmen in der Entwicklung von KI zu halten. OpenAIs ständige Evolution und Integration nachhaltiger Plattformen machen es zu einem der führenden Unternehmen, das dabei hilft, den Weg in die Zukunft der KI-Technologie zu definieren.
Bericht von Cryptopolitan von Chris Murithi
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Chris Murithi
Chris ist Schriftsteller und technischer Analyst mit Schwerpunkt Krypto und Technologie. Er besitzt einen Abschluss in Mathematik und Informatik von der University of Nairobi. Er war als Content Writer bei On-Chain Media und Coin Edition tätig und arbeitet nun bei Cryptopolitan.
