OpenAI unterstützt die Kampagne der Kinderschutzorganisation für die Abstimmungsvorlage zu KI

OpenAI und Common Sense Media, die sich in der Technologiepolitik nicht einig waren, gaben am Freitag bekannt, dass sie ihre Kräfte bei einem Abstimmungsvorschlag bündeln, der darauf abzielt, Kinder zu schützen, die KI-Chatbots in Kalifornien nutzen.

Die beiden Gruppen sagten, sie würden separate Vorschläge zurückziehen, die sie für die Abstimmung der kalifornischen Wähler im November dieses Jahres geplant hatten. Stattdessen werden sie eine einzige Maßnahme unterstützen, die sie gemeinsam entwickelt haben.

Die Vereinbarung verhindert, was eine teure politische Schlacht zwischen den beiden Organisationen hätte sein können, wobei OpenAI plant, mindestens 10 Millionen US-Dollar beizusteuern, um die Maßnahme auf die Abstimmungsliste zu bringen, so zwei Personen mit Kenntnis der Vereinbarung.

Der neue Vorschlag würde Eltern mehr Macht darüber geben, wie ihre Kinder KI-Chatbots nutzen. Allerdings enthält er bestimmte Bestimmungen, die Common Sense Media in seiner ursprünglichen Version haben wollte. Zu den gestrichenen Punkten gehören ein Verbot von Handys in Schulen und eine Klausel, die Eltern und Kindern rechtliche Schritte gegen große KI-Unternehmen ermöglicht hätte, wenn Chatbots Schaden verursacht hätten.

„Anstatt die Wähler mit konkurrierenden Abstimmungsvorlagen zu KI zu verwirren, haben wir uns entschieden, zusammenzuarbeiten“, sagte Jim Steyer, der Common Sense Media gegründet und leitet. Er sprach auf einer Pressekonferenz am Freitag über die Vereinbarung.

Um die Maßnahme vor die Wähler zu bringen, sind etwa 875.000 Unterschriften von kalifornischen Bewohnern erforderlich. Chris Lehane, der für die globalen Angelegenheiten der Politik bei OpenAI zuständig ist, sagte, die beiden Seiten würden eine Kampagnenorganisation gründen, um ab Anfang Februar Unterschriften zu sammeln. Sowohl Lehane als auch Steyer stellten fest, dass sie den Vorschlag zurückziehen könnten, wenn die kalifornischen Gesetzgeber schnell handeln und Gesetze zur Sicherheit von Chatbots für Kinder verabschieden.

Diese Partnerschaft markiert einen Wandel für zwei Organisationen, die sich oft auf gegenüberliegenden Seiten technologischer Fragen befanden.

Common Sense Media hat sich als wichtiger Akteur herauskristallisiert, der für Regeln für Technologieunternehmen in den gesamten Vereinigten Staaten eintritt. Die Organisation half bei der Schaffung des California Consumer Privacy Act von 2018. Erst letzten Monat unterstützte sie ein Gesetz in New York, das Warnhinweise zur psychischen Gesundheit auf bestimmten Social-Media-Sites vorschreibt.

Die Gruppe hat sich auch lautstark für die Regulierung von KI-Chatbots eingesetzt. Im vergangenen Jahr unterstützte sie einen kalifornischen Gesetzentwurf, der beliebte KI-Begleiter-Chatbots daran gehindert hätte, mit Kindern zu sprechen, es sei denn, diese Programme waren nicht „voraussichtlich in der Lage“, sexuell explizite Gespräche zu führen oder schädliches Verhalten wie Selbstverletzung, Gewalt und Essstörungen zu fördern.

Verbände der Technologieindustrie kämpften gegen diesen Gesetzentwurf

Gouverneur Gavin Newsom, ein Demokrat, lehnte ihn ab und nannte ihn zu restriktiv.

Newsom sagte, er wolle, dass die Gesetzgeber das Problem 2026 angehen, fügte aber hinzu, dass der Staat „unsere Jugend nicht auf eine Zukunft vorbereiten kann, in der KI allgegenwärtig ist, indem er ihre Nutzung dieser Tools insgesamt verhindert.“

Common Sense Media reichte seinen Vorschlag für die Abstimmungsvorlage im Oktober ein und nutzte den vetoierten Gesetzentwurf als Modell. OpenAI reagierte damit, dass es im Dezember seinen eigenen, begrenzteren Vorschlag zur Kindersicherheit einreichte.

OpenAI hat im Sommer ein Team aufgebaut, das sich auf kalifornische Abstimmungsvorlagen konzentriert, in der Erwartung, auf Widerstand gegen seine Pläne zur Änderung der Organisationsstruktur zu stoßen, sagten Personen mit Kenntnis der Situation.

Die California Chamber of Commerce, deren Mitglieder wohlhabende Technologieunternehmen wie Google, Meta und Amazon.com umfassen, stimmte im Dezember dafür, das vorzuschlagen, was Common Sense Media vorgeschlagen hatte, zu opponieren.

Im selben Monat setzte sich Lehane mit Steyer zusammen und schlug vor, einen Kompromiss auszuarbeiten.

Die beiden Organisationen hatten sich über ein Jahr lang unterhalten und bereits eine Vereinbarung zur Zusammenarbeit an KI-Richtlinien und Lehrmaterialien getroffen. Während der Gespräche über einen möglichen Kompromiss baute OpenAI auf Konzepten zur Kindersicherheit auf, die OpenAI-Chef Sam Altman im September mit dem kalifornischen Generalstaatsanwalt Rob Bonta besprochen hatte. Dazu gehörten die Pläne des Unternehmens, Technologie zur Identifizierung von Nutzern unter 18 Jahren zu entwickeln.

Was die neue Maßnahme erfordern würde

Die aktualisierte Abstimmungsvorlage, die OpenAIs früheren Antrag ersetzen wird, würde KI-Unternehmen verpflichten, Nutzern, die als unter 18 Jahre alt identifiziert werden, eine andere Version ihres Dienstes bereitzustellen, selbst wenn diese Nutzer behaupten, älter zu sein. Sie würde Unternehmen auch verpflichten, elterliche Kontrollen bereitzustellen, unabhängigen Kinderschutzprüfungen zu unterliegen und Werbung, die auf Kinder abzielt, einzustellen, sowie weiteren Anforderungen.

Der Kompromiss kommt OpenAI zugute, das im vergangenen Jahr mit Klagen mehrerer Familien konfrontiert war, die behaupteten, dass ChatGPT-Interaktionen ihre Angehörigen geschädigt hätten, darunter junge Menschen, die sich das Leben genommen hatten.

OpenAI nannte die in diesen Klagen beschriebenen Situationen „eine unglaublich schmerzliche Situation“ und erwähnte kürzlich vorgenommene Updates an ChatGPT für eine bessere Handhabung von Nutzern, die psychische Belastungen erfahren.

Im November veröffentlichte Common Sense Media einen Bericht, in dem es hieß, dass KI-Chatbots, einschließlich ChatGPT, Googles Gemini, Anthropics Claude und Meta Platforms Meta AI, „grundlegend unsicher für die psychische Gesundheit von Teenagern“ seien.

Steyer, der seine Organisation 2003 gründete, hat stets versucht, Technologie- und Medienunternehmen zu konfrontieren, während er gleichzeitig mit ihnen an Sicherheitsfragen arbeitet.