Anthropic-CEO ermutigt zur Vorsicht bezüglich der Sicherheit von KI-Modellen

Dario Amodei, der CEO von Anthropic, erwähnte kürzlich, dass KI-Unternehmen verpflichtenden Testanforderungen unterliegen sollten. Dies gilt auch für sein eigenes Unternehmen, Anthropic. Das Ziel ist es, sicherzustellen, dass diese Technologien für die Allgemeinheit sicher sind, bevor sie veröffentlicht werden. 

Amodei beantwortete eine Frage auf einem kürzlich in San Francisco von den US-Abteilungen für Handel und Staat veranstalteten Gipfeltreffen zur KI-Sicherheit. In seiner Antwort sagte der CEO: „Ich denke, wir müssen die Tests absolut verpflichtend machen, aber wir müssen auch sehr vorsichtig sein, wie wir dies tun.“

Diese Bemerkungen folgen einer Veröffentlichung der britischen und US-amerikanischen KI-Sicherheitsinstitute, die Ergebnisse ihrer Tests des Claude 3.5 Sonnet-Modells von Anthropic enthalten. Diese Tests wurden in verschiedenen Kategorien durchgeführt, darunter biologische und Cybersicherheitsanwendungen. Zuvor hatten sowohl OpenAI als auch Anthropic zugesagt, ihre Modelle den Regierungsbehörden vorzulegen.

Große Unternehmen wie Anthropic folgen selbst auferlegten Sicherheitsrichtlinien

Amodei erwähnte, dass große Unternehmen freiwillig bestimmten selbst auferlegten Richtlinien zugestimmt haben. Dazu gehört der Preparedness-Framework von OpenAI und die Responsible Scaling Policy von Anthropic. Allerdings fügte er weiter hinzu, dass mehr Arbeit erforderlich ist, um die Sicherheit zu gewährleisten.

„Es gibt nichts, das wirklich überprüfen oder sicherstellen kann, dass die Unternehmen diese Pläne im Wortlaut und im Geist einhalten. Sie haben einfach gesagt, dass sie es tun werden“, sagte Amodei. Er fügte auch hinzu: „Ich denke, nur die öffentliche Aufmerksamkeit und die Tatsache, dass die Mitarbeiter sich kümmern, hat etwas Druck erzeugt, aber ich denke letztendlich, dass dies nicht ausreichen wird.“

Amodei ist der Ansicht, dass leistungsstarke KI-Systeme in der Lage sind, die intelligentesten Menschen zu übertreffen. Er glaubt auch, dass solche Systeme bis 2026 verfügbar sein werden. Er fügt hinzu, dass KI-Unternehmen noch bestimmte katastrophale Schäden und biologische Bedrohungen testen, von denen keine derzeit real ist. Diese hypothetischen Tests können jedoch viel früher zur Realität werden.

Er warnte auch davor, dass die Anforderungen an die Tests von KI-Systemen flexibel sein sollten, da sich die Technologie ständig weiterentwickelt. In seinen Worten ist es ein sehr schwieriges „sozio-politisches Problem“ zu lösen.