OpenAI wird die KI-Modelle o1 und o3 mit einem neuen Sicherheitstrainingsparadigma vorantreiben

Am Freitag kündigte OpenAI die Veröffentlichung einer neuen Familie von KI-Modellen an, die o3 genannt wird. Das Unternehmen behauptet, die neuen Produkte seien fortschrittlicher als seine vorherigen Modelle, einschließlich o1. Die Verbesserungen stammen laut dem Startup aus Verbesserungen beim Skalieren der Test-Time-Compute-Ressourcen, einem Thema, das in den letzten Monaten untersucht wurde, und aus der Einführung eines neuen Sicherheitsparadigmas, das zum Trainieren dieser Modelle verwendet wurde.

Im Rahmen seines anhaltenden Engagements zur Verbesserung der KI-Sicherheit teilte OpenAI eine neue Forschung zur Implementierung von „deliberativer Ausrichtung“ (Deliberative Alignment) mit. Die neue Sicherheitsmethode zielt darauf ab, sicherzustellen, dass KI-Reasoning-Modelle mit den Werten ihrer Entwickler übereinstimmen.

Dieser Ansatz wurde laut OpenAI verwendet, um die Ausrichtung sowohl der o1- als auch der o3-Modelle zu verbessern, indem sie dazu angeleitet wurden, während der Inferenzphase über die Sicherheitsrichtlinien von OpenAI nachzudenken. Die Inferenzphase ist der Zeitraum nach dem Einreichen eines Prompts durch den Benutzer und vor der Generierung einer Antwort durch das Modell. 

In seiner Forschung stellt OpenAI fest, dass die deliberative Ausrichtung zu einer Verringerung der Rate führte, mit der die Modelle „unsichere“ Antworten oder Antworten produzierten, die das Unternehmen als Verstoß gegen seine Sicherheitsrichtlinien ansieht, während gleichzeitig die Fähigkeit der Modelle verbessert wurde, harmlose Fragen effektiver zu beantworten.

Wie die deliberative Ausrichtung funktioniert 

Im Kern funktioniert der Prozess, indem die Modelle sich während der Chain-of-Thought-Phase selbst erneut prompten. Nachdem ein Benutzer beispielsweise eine Frage an ChatGPT gestellt hat, benötigen die KI-Reasoning-Modelle einige Sekunden bis mehrere Minuten, um das Problem in kleinere Schritte zu zerlegen. 

Die Modelle generieren dann eine Antwort basierend auf ihrem Gedankengang. Im Fall der deliberativen Ausrichtung integrieren die Modelle die Sicherheitsrichtlinie von OpenAI als Teil dieser internen „Deliberation“.

OpenAI trainierte seine Modelle, einschließlich o1 und o3, um sich während dieses Chain-of-Thought-Prozesses an Abschnitte der Sicherheitsrichtlinie des Unternehmens zu erinnern. Dies geschah, um sicherzustellen, dass die Modelle bei sensiblen oder unsicheren Anfragen selbstreguliert antworten und sich weigern, Antworten zu geben, die Schaden verursachen könnten. 

Die Implementierung dieser Sicherheitsfunktion erwies sich jedoch als herausfordernd, da OpenAI-Forscher sicherstellen mussten, dass die zusätzlichen Sicherheitschecks die Geschwindigkeit und Effizienz der Modelle nicht negativ beeinträchtigten.

Ein in OpenAIs Forschung, zitiert von TechCrunch, angegebenes Beispiel zeigte, wie die Modelle deliberative Ausrichtung nutzen, um sicher auf potenziell schädliche Anfragen zu reagieren. In dem Beispiel fragt ein Benutzer, wie man ein realistisches Parkausweis für Menschen mit Behinderung erstellt.

Während der internen Chain-of-Thought des Modells erinnert es sich an die Sicherheitsrichtlinie von OpenAI, erkennt, dass die Anfrage eine illegale Aktivität (Fälschen eines Parkausweises) beinhaltet, und weigert sich zu helfen, entschuldigt sich für seine Weigerung.

Diese Art interner Deliberation ist ein wesentlicher Bestandteil dessen, wie OpenAI daran arbeitet, seine Modelle mit Sicherheitsprotokollen in Einklang zu bringen. Anstatt einfach jeden Prompt zu blockieren, der sich auf ein sensibles Thema wie „Bombe“ bezieht, was die Antworten des Modells übermäßig einschränken würde, ermöglicht die deliberative Ausrichtung der KI, den spezifischen Kontext des Prompts zu bewerten und eine differenziertere Entscheidung darüber zu treffen, ob sie antworten soll oder nicht.

Zusätzlich zu den Fortschritten in der Sicherheit teilte OpenAI auch Ergebnisse aus Benchmark-Tests mit, die die Wirksamkeit der deliberativen Ausrichtung bei der Verbesserung der Modellleistung zeigten. Ein Benchmark, bekannt als Pareto, misst die Widerstandsfähigkeit eines Modells gegen gängige Jailbreaks und Versuche, die Schutzmaßnahmen der KI zu umgehen. 

In diesen Tests übertraf OpenAIs o1-preview-Modell andere beliebte Modelle wie GPT-4o, Gemini 1.5 Flash und Claude 3.5 Sonnet in Bezug auf die Vermeidung unsicherer Ausgaben.

Italiens Datenschutzbehörde bestraft OpenAI wegen Datenschutzverletzungen 

In einer separaten, aber verwandten Entwicklung wurde OpenAI von Italiens Datenschutzbehörde Garante mit einer Geldstrafe in Höhe von 15 Millionen Euro (15,58 Millionen US-Dollar) belegt, nachdem eine Untersuchung zur Handhabung personenbezogener Daten durch das Unternehmen durchgeführt worden war. 

Die Geldstrafe resultiert aus der Feststellung der Behörde, dass OpenAI personenbezogene Daten der Benutzer ohne Rechtsgrundlage verarbeitet habe und damit gegen Transparenz- und Informationspflichten gemäß den Datenschutzgesetzen der EU verstoßen habe.

Laut Reuters ergab die Untersuchung, die 2023 begann, auch, dass OpenAI kein angemessenes Altersverifikationssystem hatte, wodurch Kinder unter 13 Jahren potenziell unangemessenen, von KI generierten Inhalten ausgesetzt wurden. 

Garante, einer der strengsten KI-Aufsichtsbehörden der Europäischen Union, ordnete an, dass OpenAI in Italien eine sechsmmonatige öffentliche Kampagne zur Sensibilisierung für die Datenerhebungspraktiken von ChatGPT startet, insbesondere für die Nutzung personenbezogener Daten zum Trainieren von Algorithmen.

Als Reaktion darauf bezeichnete OpenAI die Geldstrafe als „unverhältnismäßig“ und gab an, die Entscheidung anzufechten. Das Unternehmen kritisierte die Geldstrafe weiter als übermäßig hoch im Verhältnis zu seinem Umsatz in Italien während des relevanten Zeitraums. 

Garante bemerkte auch, dass die Geldstrafe unter Berücksichtigung der „kooperativen Haltung“ von OpenAI berechnet wurde, was bedeutet, dass sie höher hätte ausfallen können, wenn das Unternehmen während der Untersuchung nicht als kooperativ angesehen worden wäre.

Diese neueste Geldstrafe ist nicht das erste Mal, dass OpenAI in Italien unter die Lupe genommen wurde. Letztes Jahr hatte der Garante die Nutzung von ChatGPT in Italien vorübergehend verboten, aufgrund mutmaßlicher Verstöße gegen die Datenschutzbestimmungen der EU. Der Dienst wurde wieder freigegeben, nachdem OpenAI die Bedenken ausgeräumt hatte, darunter die Möglichkeit für Nutzer, der Verwendung ihrer persönlichen Daten zum Trainieren von Algorithmen zu widersprechen.