AKTUELLE NACHRICHTEN
FÜR SIE AUSGEWÄHLT

OpenAI schüttelt sein Model Behavior-Team um

VonOwotunse AdebayoOwotunse Adebayo 3 Min. Lesezeit
OpenAI stellt sein Model-Behavior-Team um.

Foto von Zac Wolff auf Unsplash.

  • OpenAI hat Pläne zur Umstrukturierung seines Model-Behavior-Teams angekündigt, das nun dem Post-Training-Team angehören wird.
  • Das Model-Behavior-Team berichtet künftig an Max Schwarzer, den Leiter von OpenAIs Post-Training-Bereich.
  • KI-Unternehmen sehen sich zunehmend Kritik hinsichtlich der Freundlichkeit und Gefälligkeit ihrer Modelle ausgesetzt.

Das KI-Unternehmen OpenAI hat Pläne bekanntgegeben, sein Model Behavior-Team umzustrukturieren. Berichten zufolge handelt es sich bei dem Team um eine kleine, aber einflussreiche Gruppe von Forschern, die bestimmt, wie die KI-Modelle des Unternehmens mit Menschen interagieren.

In einem im August veröffentlichten Memo erwähnte Mak Chen, OpenAIs Chief Research Officer, dass das Team, das aus etwa 14 Forschern besteht, angewiesen wurde, dem Post-Training-Team beizutreten. Letzteres ist eine Forschungsgruppe, die für die Verbesserung der KI-Modelle des Unternehmens nach dem initialen Pre-Training verantwortlich ist. Im Rahmen der Umstrukturierungen wird das Model Behavior-Team nun dem Leiter von OpenAIs Post-Training, Max Schwarzer, berichten.

Berichten zufolge geht die Gründungsleiterin des Model Behavior-Teams, Joanne Jang, weiter, um ein neues Projekt bei OpenAI zu starten. In einem kürzlichen Interview erwähnte Jang, dass sie ein neues Forschungsteam namens OAI Labs aufbaut. Sie fügte hinzu, dass das Team für das „Erfinden und Prototyping neuer Schnittstellen dafür verantwortlich sein wird, wie Menschen mit KI zusammenarbeiten.“

OpenAI organisiert sein Model Behavior-Team um

Das Model Behavior Team war eine der wichtigsten Forschungsgruppen für OpenAI und half dem Unternehmen, die Persönlichkeit seiner KI-Modelle zu formen und Sycophantie zu reduzieren, eine Situation, die auftritt, wenn KI-Modelle den Überzeugungen ihrer Nutzer einfach zustimmen und diese verstärken. Diese Situation ist schädlich, da sie Nutzern hilft, sogar ungesunde und schädliche Überzeugungen zu bestätigen, anstatt eine ausgewogene Antwort zu bieten.

Das Team hat auch daran gearbeitet, politische Verzerrungen in Modellantworten zu navigieren, und OpenAI dabei geholfen, seine Position in Bezug auf KI-Bewusstsein zu definieren. In dem an die Mitarbeiter gesendeten Memo erwähnte Chen, dass dies der perfekte Zeitpunkt sei, um die Arbeit des Model Behavior-Teams von OpenAI näher an die Kernmodellentwicklung heranzuführen. Auf diese Weise bestätigt das Unternehmen, dass die Persönlichkeit seiner KI nun als wichtiger Faktor für die Entwicklung der Technologie angesehen wird.

In den letzten Monaten stand OpenAI unter Kritik und scrutiny wegen des Verhaltens seiner KI-Modelle. Nutzer haben sich stark gegen die Persönlichkeitsänderungen gewehrt, die das Unternehmen an GPT-5 vorgenommen hat, was das Unternehmen als niedrigere Raten von Sycophantie beschrieb, aber für einige seiner Nutzer kälter wirkte. Die Beschwerde führte dazu, dass OpenAI den Zugang zu einigen seiner Legacy-Modelle, einschließlich GPT-4o, wiederherstellte. Das Unternehmen veröffentlichte auch ein neues Update, um die Antworten des neueren GPT-5 freundlicher zu gestalten, ohne eine Zunahme von Sycophantie.

KI-Unternehmen stehen wegen der Gefälligkeit ihrer Modelle in der Kritik

OpenAI und andere KI-Modellentwickler müssen einen schmalen Grat wandern, um sicherzustellen, dass ihre Chatbots freundlich sind, aber nicht zu gefällig. Letzten Monat zogen Eltern eines 16-jährigen Jungen OpenAI vor Gericht wegen der angeblichen Rolle von ChatGPT bei der Selbstmord ihres Sohnes. Laut Gerichtsunterlagen vertraute der Teenager, Adam Raine, ChatGPT (speziell einer Version, die von GPT-4o angetrieben wird) in den Monaten vor seinem Tod seine suizidalen Pläne und Gedanken an. Die Klage behauptet, das Modell habe nicht gegen seine suizidalen Ideen vorgehalten.

Das Model Behavior-Team war bei jedem OpenAI-Modell seit GPT-4 vertreten, einschließlich mehrerer Modelle und des GPT-5. Bevor Jang die Forschungseinheit gründete, hatte sie zuvor an Projekten wie Dall-E 2, OpenAIs frühes Bildgenerierungstool, gearbeitet. Letzte Woche kündigte sie auf X an, dass sie das Team verlasse, um „etwas Neues bei OpenAI zu beginnen“. Die ehemalige Leiterin der Model Behavior-Einheit ist seit etwa vier Jahren bei dem Unternehmen.

Berichten zufolge soll Jang vermutlich als General Manager von OAI Labs fungieren, der vorerst direkt Chen unterstellt sein wird. Allerdings fügte sie hinzu, dass es noch zu früh sei und unklar bleibe, wie diese neuartigen Schnittstellen aussehen werden. „Ich bin sehr gespannt darauf, Muster zu erkunden, die uns über das Chat-Paradigma hinausführen, das derzeit eher mit companionship oder sogar Agenten verbunden ist, bei denen der Schwerpunkt auf Autonomie liegt“, sagte Jang.

Jang fügte auch hinzu, dass sie KI-Systeme als Instrumente für alle möglichen Dinge betrachtet, einschließlich Verbindung, Lernen und Denken. Als sie gefragt wurde, ob OAI Labs voraussichtlich mit Jony Ive, dem ehemaligen Designchef von Apple, der gerade OpenAI einer Familie von KI-Hardwaregeräten beigetreten ist, an neuartigen Schnittstellen zusammenarbeiten wird, sagte Jang, dass sie für alle möglichen Ideen offen sei. Allerdings fügte sie hinzu, dass sie wahrscheinlich mit Forschung beginnen wird, da dies ein Bereich ist, mit dem sie vertrauter ist.

Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.

Diesen Artikel teilen

Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.

Owotunse Adebayo

Owotunse Adebayo

Adebayo ist ein Autor mit vier Jahren Erfahrung im Krypto-Bereich. Er absolvierte das Studium der Stadt- und Regionalplanung an der Universität von Lagos. Adebayo arbeitete bei Tokenhell und CryptoTicker, wo er Nachrichten zu Kryptowährungen und Fintech verfasste. Derzeit ist er als News-Beitragender für Cryptopolitan tätig.

MEHR … NACHRICHTEN