OpenAI fordert angesichts der anhaltenden Spannungen zwischen den USA und China einen globalen Rahmen für KI-Sicherheit

OpenAI ist der Ansicht, dass KI die gleiche Regulierung wie Kernenergie benötigt und fordert die USA auf, die Schaffung einer globalen Regulierungsbehörde zu initiieren, die sich darum kümmert. 

berichtet Cryptopolitan, geschieht dies, während Präsidentdent zu dem ersten US-amerikanisch-chinesischen Staatsbesuch seit neun Jahren nach Peking reiste, bei dem die KI-Politik voraussichtlich auf der Tagesordnung stehen würde.

Laut Chris Lehane,dent für globale Angelegenheiten bei OpenAI, ist das Zusammentreffen von Trump und Xi im selben Raum eine seltene Gelegenheit für die beiden Nationen, etwas Dauerhaftes für die KI aufzubauen.

„KI geht in gewisser Hinsicht über viele der vorherrschenden oder traditionellen Handelsfragen hinaus. Es besteht die Möglichkeit, wirklich etwas Globales aufzubauen und Länder auf der ganzen Welt, einschließlich China, potenziell daran teilnehmen zu lassen“, sagte Chris Lehane während eines Briefings.

Was ist OpenAI, und warum ist seine Meinung zu globalen politischen Themen so wichtig?

OpenAI ist das amerikanische Unternehmen, das ChatGPT, einen beliebten KI-Assistenten/Chatbot, der täglich von Hunderten Millionen Menschen genutzt wird.

Das Unternehmen hat sich stets an allen wichtigen Debatten über leistungsstarke KI-Systeme beteiligt. CEO Sam Altman trifft sich regelmäßig mit Staatsoberhäuptern, um über KI zu sprechen, und sagt sogar vor dem US-Kongress aus, wodurch das Unternehmen erheblichen Einfluss auf die globale KI-Politik ausübt.

OpenAI befindet sich außerdem in einem separaten Rechtsstreit, nachdem Tesla-CEO Elon Musk verklagt hatte . Musk ist einer der ursprünglichen Gründer von OpenAI und behauptet, dass Sam Altman und andere Führungskräfte gegen die gemeinnützige Mission des Unternehmens verstoßen und es in eine gewinnorientierte Organisation umgewandelt hätten. 

Der Prozess läuft noch, aber die wichtigere Geschichte dieser Woche spielt sich in Peking ab.

Was hat OpenAI vorgeschlagen und wie sieht der Vergleich mit der IAEA aus?

Chris Lehane,dent für globale Angelegenheiten bei OpenA, schlug vor, zwei Dinge miteinander zu verknüpfen, um etwas Neues zu schaffen.

des US-Handelsministeriums KI-Standards und Innovation und Institute für KI-Sicherheit zusammenarbeiten und ein globales Netzwerk aufbauen. Als Beispiel nannte er die Internationale Atomenergie-Organisation (IAEO), die gezeigt hat, wie Länder ihre Atomaufsichtsbehörden in einer übergeordneten Institution zusammengeführt haben. 

Das Center for AI Standards and Innovation des US-Handelsministeriums ist eine Regierungsbehörde, die technische Standards für KI-Systeme entwickelt. 

Gleichzeitig gründen Länder weltweit KI-Institute. So gibt es beispielsweise in Großbritannien ein solches Institut, die EU entwickelt entsprechende Rahmenbedingungen, und auch mehrere asiatische Regierungen arbeiten an ähnlichen Einrichtungen. 

Lehane erklärte, eine zentrale Stelle für KI werde dazu beitragen, sicherere und widerstandsfähigere Systeme zu entwickeln, die weniger anfällig für Angriffe seien. Er fordert die US-Regierung außerdem auf, die Forscher des Landes zu verpflichten, die leistungsstärksten KI-Modelle vor deren Einsatz zu testen. 

Was ist das Mythos-Modell, und warum beunruhigt es sowohl Washington als auch Peking?

Mythos ist ein neues, leistungsstarkes KI-Modell, das „Tausende“ schwerwiegender Sicherheitslücken in Betriebssystemen und anderer Software entdeckt hat. Entwickelt wurde Mythos von Anthropic, einem von Google und Amazon unterstützten Unternehmen für KI-Sicherheit.

Das Ausmaß der Fähigkeiten von Mythos schockierte die Welt, und Banken und Regierungen beeilten sich nach der Ankündigung, ihre Sicherheitsvorkehrungen zu verbessern. Selbst Beamte des Weißen Hauses räumten ein, dass Modelle wie Mythos die Kommunikation mit China wichtiger denn je machten. 

China wurde der frühe Zugang zu einer Mythos-Vorschau verwehrt, was Bedenken hinsichtlich der Fähigkeit der chinesischen Entwickler und der Regierung aufkommen ließ, sich gegen Angriffe zu verteidigen, die das KI-Modell nutzen. 

Das Marktforschungsunternehmen IDC China warnte sogar davor, dass ein Ausschluss Chinas aus Mythos eine „Generationenlücke“ bei den KI-Verteidigungsfähigkeiten zwischen China und dem Westen schaffen könnte. 

Laut Forschernkönnten Angreifer mithilfe hochentwickelter KI Biowaffen entwickeln, Finanzkrisen auslösen oder autonom, ohne menschliche Kontrolle, agieren. Das Beunruhigendste daran ist, dass die KI lediglich leistungsstark, schnell und in die falsche Richtung ausgerichtet sein muss, um all dies zu erreichen. 

Was geschah bei dem Treffen zwischen Trump und Xi, und worüber wurde gesprochen?

Zur US-Delegation in China gehörten Nvidia-CEO Jensen Huang und Michael Kratsios, ein hochrangiger Technologieberater des Weißen Hauses. Ihre Anwesenheit machte das Treffen zu einem prioritären und dringlichen Thema, da beide Seiten darauf vorbereitet waren, KI-Themen direkt zu erörtern. 

China schlug einen formellen Dialog zu KI-Fragen unter der Leitung von US-Finanzminister Scott Bessent und dem chinesischen Vizefinanzminister Liao Min vor. Die Erwartungen an diesen Dialogkanal sind jedoch gering, da keine der beiden Behörden auf KI spezialisiert ist.

Die USA planten außerdem, Bedenken zu äußern, dass chinesische Entwickler die Ergebnisse fortschrittlicher KI-Modelle nutzen, um Systeme zu einem Bruchteil der Kosten, aber mit weniger Sicherheitsvorkehrungen zu entwickeln.

Beide Seiten erörterten auch die Möglichkeit, eine Hotline ohne Schuldzuweisungen einzurichten, um mutmaßliche KI-gesteuertedentzu melden, ähnlich wie bei militärischen Hotlines.

Analysten schlugen sogar vor, dass sich beide Regierungen auf Leitplanken für zukunftsweisende KI-Modelle einigen könnten, ähnlich dem Cybersicherheitsabkommen.

berühren MATCH Act, ein geplantes US-Gesetz, das darauf abzielt, Chinas Zugang zu Halbleiter-Lieferketten einzuschränken. 

Sun Chenghao von der Tsinghua-Universität nahm an den KI-Gesprächen zwischen den USA und China teil und sagte, die USA sollten eine klare Grenze ziehen zwischen dem Management von KI-Sicherheitsrisiken und dem bloßen Versuch, Chinas technologische Entwicklung zu blockieren. 

„China hofft wahrscheinlich, dass die USA angemessen zwischen KI-Governance und technologischer Eindämmung unterscheiden werden“, sagte Sun Chenghao.