OpenAI fordert globalen KI-Sicherheitsrahmen, während die Spannungen zwischen den USA und China schwelen

OpenAI sagt, KI benötige die gleiche Regulierung wie Nuklearenergie, und möchte, dass die USA die Schaffung eines globalen Regulierungsbehördens initiieren, um dies zu handhaben. 

Wie von Cryptopolitan berichtet, geschieht dies, während Präsident Trump zu seinem ersten Staatsbesuch in den USA–China in neun Jahren nach Peking reiste, wobei erwartet wurde, dass die KI-Politik auf der Tagesordnung stehen würde.

Laut Chris Lehane, Vizepräsident für globale Angelegenheiten bei OpenAI, ist Trump und Xi im selben Raum eine seltene Gelegenheit für die beiden Nationen, etwas Dauerhaftes für KI aufzubauen.

„KI geht auf einer gewissen Ebene weit über viele der vorherrschenden oder traditionellen handelsbezogenen Probleme hinaus. Es gibt die Möglichkeit, wirklich etwas Global aufzubauen, und Länder auf der ganzen Welt, einschließlich China, könnten potenziell teilnehmen,” sagte Chris Lehane während einer Pressekonferenz.

Was ist OpenAI, und warum ist seine Meinung zur globalen Politik ein großes Thema?

OpenAI ist das amerikanische Unternehmen, das ChatGPT, einen beliebten KI-Assistenten/Chatbot entwickelt hat, der täglich von Hunderten von Millionen Menschen genutzt wird.

Das Unternehmen war immer an jeder großen Debatte über leistungsstarke KI-Systeme beteiligt. Sein CEO, Sam Altman, trifft sich normalerweise mit Staatsoberhäuptern, um über KI zu diskutieren, und legt sogar vor dem Kongress Zeugnis ab, was dem Unternehmen einen erheblichen Einfluss auf die globale KI-Politik verleiht.

OpenAI befindet sich auch in einem separaten Rechtsstreit, nachdem Tesla-CEO Elon Musk das Unternehmen 2024 verklagt hatte. Musk ist einer der ursprünglichen Gründer von OpenAI, und er sagt, Sam Altman und andere Führungskräfte hätten sich gegen die gemeinnützige Mission des Unternehmens gewandt und es in eine gewinnorientierte Organisation verwandelt. 

Der Prozess läuft noch, aber die größere Geschichte dieser Woche spielt sich in Peking ab.

Was hat OpenAI vorgeschlagen, und was ist der Vergleich mit der IAEA?

Vizepräsident für globale Angelegenheiten bei OpenAI, Chris Lehane, schlug vor, zwei Dinge zu verknüpfen, um etwas Neues zu schaffen.

Er möchte, dass das Center for AI Standards and Innovation des US-Handelsministeriums und KI-Sicherheitsinstitute zusammenkommen und ein globales Netzwerk aufbauen. Er nutzte die International Atomic Energy Agency (IAEA) als Beispiel dafür, wie Länder ihre Nuklearregulierungsbehörden zu einer einzigen Gesamtbehörde verbunden haben. 

Das Center for AI Standards and Innovation des US-Handelsministeriums ist eine Regierungsbehörde, die technische Standards für KI-Systeme erstellt. 

Gleichzeitig errichten Länder weltweit KI-Institute. Zum Beispiel hat das Vereinigte Königreich eines, die EU entwickelt Rahmenbedingungen, und mehrere asiatische Regierungen arbeiten ebenfalls an ähnlichen Gremien. 

Lehane sagte, ein einheitliches Gremium für KI werde dazu beitragen, sicherere und widerstandsfähigere Systeme aufzubauen, die weniger anfällig für Angriffe sind. Er möchte auch, dass die US-Regierung es für die Forscher des Landes zur Pflicht macht, die leistungsstärksten KI-Modelle zu testen, bevor sie eingesetzt werden. 

Was ist das Mythos-Modell, und warum bringt es sowohl Washington als auch Peking durcheinander?

Mythos ist ein neues, leistungsstarkes KI-Modell, das „Tausende“ schwerwiegender Sicherheitslücken in Betriebssystemen und anderer Software gefunden hat. Anthropic (das KI-Sicherheitsunternehmen, das von Google und Amazon unterstützt wird) hat Mythos entwickelt.

Das Ausmaß dessen, was Mythos leisten kann, hat die Welt schockiert, als Banken und Regierungen eilig ihre Sicherheitsverteidigungen zu reparieren versuchten, nach der Ankündigung. Beamte des Weißen Hauses räumten sogar ein, dass Modelle wie Mythos die Kommunikation mit China wichtiger denn je gemacht haben. 

China wurde vom frühen Zugang zu einer Mythos-Vorschau ausgeschlossen, was Bedenken hinsichtlich der Fähigkeit der Entwickler und der Regierung des Landes aufwarf, sich gegen Angriffe zu verteidigen, die das KI-Modell nutzen. 

Der Marktintelligenz-Dienstleister IDC China warnte sogar, dass der Ausschluss Chinas aus Mythos eine „generationenübergreifende Lücke“ in den KI-Abwehrfähigkeiten zwischen China und dem Westen schaffen könnte. 

Laut Forscher, Angreifer könnten fortschrittliche KI nutzen, um Biowaffen zu entwerfen, finanzielle Schocks auszulösen oder autonom ohne menschliche Kontrolle zu handeln. Der beängstigendste Teil ist, dass KI nur leistungsstark, schnell und in die falsche Richtung gerichtet sein muss, um all diese Dinge zu tun. 

Was ist bei der Trump-Xi-Treffen passiert, und worüber haben sie gesprochen?

Die US-Delegation nach China umfasste Nvidia-CEO Jensen Huang und den führenden Technologiepolitikerberater des Weißen Hauses, Michael Kratsios. Ihre Anwesenheit auf der Reise machte das Treffen zu einer Priorität und einem dringenden Thema, da beide Seiten vorbereitet waren, KI-Themen direkt zu diskutieren. 

China schlug einen formellen Dialog zu KI-Themen vor, angeführt von Finanzminister Scott Bessent und dem chinesischen Vizefinanzminister Liao Min. Die Erwartungen an diesen Kanal sind jedoch gering, da keine der beiden Behörden auf KI spezialisiert ist.

Die USA planten auch, Bedenken vorzubringen, dass chinesische Entwickler Ausgaben aus fortschrittlichen KI-Modellen nutzen, um Systeme zu einem Bruchteil der Kosten, aber mit weniger Sicherheitsvorkehrungen, aufzubauen.

Beide Seiten diskutierten auch die Möglichkeit, eine schuldlose Hotline zur Meldung verdächtiger KI-gesteuerter Vorfälle einzurichten, ähnlich wie militärische Hotlines.

Analysten schlugen sogar vor, dass beide Regierungen sich zu Sicherheitsvorkehrungen für Frontier-KI-Modelle verpflichten könnten, ähnlich wie das US-China Cybersicherheitsabkommen.

Schließlich könnten die Diskussionen auch das MATCH Act berühren, ein vorgeschlagenes US-Gesetz, das darauf abzielt, den Zugang Chinas zu Halbleiter-Lieferketten zu begrenzen. 

Sun Chenghao von der Tsinghua-Universität nahm an den US-China-KI-Gesprächen teil und sagte, die USA sollten eine klare Linie zwischen der Verwaltung von KI-Sicherheitsrisiken und dem einfachen Versuch, die technologische Entwicklung Chinas zu blockieren, ziehen. 

„China hofft wahrscheinlich, dass die USA angemessen zwischen KI-Regulierung und technologischer Eindämmung unterscheiden,” sagte Sun Chenghao.