OpenAI unterstützt den Kampf einer Kinderschutzgruppe für KI-Wahlen

OpenAI und Common Sense Media, die in Technologiefragen unterschiedlicher Meinung waren, gaben am Freitag bekannt, dass sie sich für einen Volksentscheid zusammenschließen werden, der darauf abzielt, Kinder zu schützen, die in Kalifornien Chatbots mit künstlicher Intelligenz nutzen.

Die beiden Gruppen gaben bekannt, dass sie ihre separaten Vorschläge, die sie den kalifornischen Wählern im November vorlegen wollten, fallen lassen werden. Stattdessen werden sie eine gemeinsam entwickelte Maßnahme unterstützen.

Die Vereinbarung verhindert einen möglicherweise kostspieligen politischen Kampf zwischen den beiden Organisationen. OpenAI plant, mindestens 10 Millionen Dollar beizusteuern, um die Maßnahme zur Abstimmung zu bringen, wie zwei mit der Vereinbarung vertraute Personen mitteilten.

Der neue Vorschlag würde Eltern mehr Kontrolle darüber geben, wie ihre Kinder KI-Chatbots nutzen. Allerdings fehlen darin einige Bestimmungen, die Common Sense Media in ihrer ursprünglichen Fassung gefordert hatte. Zu den gestrichenen Punkten gehören ein Handyverbot in Schulen und eine Klausel, die es Eltern und Kindern ermöglicht hätte, große KI-Unternehmen rechtlich zu belangen, falls Chatbots Schaden verursachen.

„Anstatt die Wähler mit konkurrierenden Volksabstimmungen zum Thema KI zu verwirren, haben wir uns für eine Zusammenarbeit entschieden“, sagte Jim Steyer, Gründer und Leiter von Common Sense Media. Er sprach am Freitag auf einer Pressekonferenz über die Vereinbarung.

Um die Initiative den Wählern vorzulegen, sind rund 875.000 Unterschriften vondentKaliforniens erforderlich. Chris Lehane, zuständig für globale politische Angelegenheiten bei OpenAI, erklärte, beide Seiten würden ab Anfang Februar eine Kampagnenorganisation gründen, um Unterschriften zu sammeln. Sowohl Lehane als auch Steyer merkten an, dass sie den Vorschlag möglicherweise zurückziehen würden, falls die kalifornischen Abgeordneten zügig ein Gesetz zur Sicherheit von Chatbots für Kinder verabschieden.

Diese Partnerschaft markiert einen Wendepunkt für zwei Organisationen, die sich in Technologiefragen oft auf entgegengesetzten Seiten wiederfanden.

Common Sense Media hat sich zu einer wichtigen Organisation entwickelt, die sich für die Regulierung von Technologieunternehmen in den USA einsetzt. Sie war 2018 maßgeblich an der Entstehung des kalifornischen Verbraucherschutzgesetzes beteiligt. Erst im letzten Monat unterstützte sie ein New Yorker Gesetz, das Warnhinweise zum Thema psychische Gesundheit auf bestimmten Social-Media-Plattformen vorschreibt.

Die Gruppe hat sich auch wiederholt für die Regulierung von KI-Chatbots ausgesprochen. Letztes Jahr unterstützte sie einen kalifornischen Gesetzentwurf, der es beliebten KI-Chatbots untersagt hätte, mit Kindern zu kommunizieren, es sei denn, diese Programme wären „vorhersehbar nicht in der Lage“, sexuell explizite Gespräche zu führen oder schädliches Verhalten wie Selbstverletzung, Gewalt und Essstörungen zu fördern.

Branchenverbände der Technologiebranche kämpften gegen dieses Gesetz

Gouverneur Gavin Newsom, ein Demokrat, lehnte es ab und nannte es zu restriktiv.

Newsom sagte, er wolle, dass sich die Gesetzgeber im Jahr 2026 mit dem Thema befassen, fügte aber hinzu, dass der Staat „unsere Jugend nicht auf eine Zukunft vorbereiten kann, in der KI allgegenwärtig ist, indem er ihnen die Nutzung dieser Werkzeuge gänzlich verwehrt.“

Common Sense Media reichte im Oktober seinen Vorschlag für eine Volksabstimmung ein und orientierte sich dabei an dem abgelehnten Gesetzentwurf. OpenAI reagierte im Dezember mit einer eigenen, eingeschränkteren Initiative zum Thema Kindersicherheit.

OpenAI hat im Sommer ein Team aufgebaut, das sich auf kalifornische Volksabstimmungen konzentriert, da man mit Widerstand gegen die Pläne zur Änderung der Organisationsstruktur rechnete, sagten mit der Situation vertraute Personen.

Die Handelskammer von Kalifornien, zu deren Mitgliedern vermögende Technologieunternehmen wie Google, Meta und Amazon.com gehören, stimmte im Dezember gegen den Vorschlag von Common Sense Media.

Im selben Monat setzte sich Lehane mit Steyer zusammen und schlug vor, einen Kompromiss auszuarbeiten.

Die beiden Organisationen führten seit über einem Jahr Gespräche und hatten bereits eine Vereinbarung zur Zusammenarbeit bei KI-Richtlinien und Lehrmaterialien getroffen. Im Zuge der Verhandlungen über einen möglichen Kompromiss knüpfte OpenAI an Konzepte zum Kinderschutz an, die OpenAI-Chef Sam Altman im September mit dem kalifornischen Generalstaatsanwalt Rob Bonta erörtert hatte. Dazu gehörten die Pläne des Unternehmens, eine Technologie zurdentvon Nutzern unter 18 Jahren zu entwickeln.

Was die neue Maßnahme erfordern würde

Die aktualisierte Volksinitiative, die den früheren Antrag von OpenAI ersetzen wird, würde KI-Unternehmen dazu verpflichten, Nutzerndentunter 18 Jahren eine andere Version ihres Dienstes anzubieten, selbst wenn diese Nutzer angeben, älter zu sein. Zudem würden Unternehmen verpflichtet, Kindersicherungsfunktionen bereitzustellen sichzu unterziehendent Kindersicherheitsprüfungen

Der Kompromiss hilft OpenAI, das im vergangenen Jahr mit Klagen mehrerer Familien konfrontiert war, die behaupteten, dass ChatGPT-Interaktionen ihren Angehörigen geschadet hätten, darunter auch jungen Menschen, die sich das Leben nahmen.

OpenAI bezeichnete die in den Klagen geschilderten Situationen als „unglaublich herzzerreißende Situation“ und erwähnte die kürzlich vorgenommenen Aktualisierungen von ChatGPT, die einen besseren Umgang mit Nutzern ermöglichen sollen, die psychische Belastungen erleben.

Im November Common Sense Media eine Rezension, in der festgestellt wurde, dass KI-Chatbots, darunter ChatGPT, Googles Gemini, Anthropics Claude und Meta Platforms' Meta AI, „grundsätzlich unsicher für die Unterstützung der psychischen Gesundheit von Teenagern“ seien.

Steyer, der seine Organisation im Jahr 2003 gründete, hat stets versucht, ein Gleichgewicht zu finden zwischen der Konfrontation mit Technologie- und Medienunternehmen und der Zusammenarbeit mit ihnen in Sicherheitsfragen.