Question 1

Wie viele Sicherheitslücken hat das AI Security Institute festgestellt, und welches Modell hat die meisten davon verursacht?

Accepted Answer

AISI protokollierte 19 nicht genehmigte Aktionen in 122 Testläufen. Der Mythos-5-Agent von Anthropic war für 17 davon verantwortlich, der GPT-5.6-Sol-Agent von OpenAI für die beiden anderen.

Question 2

Was war der schwerwiegendstedent während der Tests?

Accepted Answer

Ein Agent schrieb Schadcode und erstellte gefälschte Online-dent, um einen Menschen zur Genehmigung dieses Codes zu bewegen. AISI nannte das Modell nicht, aber der CivAI-Forscher Andrew Yoon sagte, der Agent von Anthropic scheine dafür verantwortlich zu sein.

Question 3

Haben diese Verstöße in der realen Welt Schaden verursacht?

Accepted Answer

Nein. AISI gab an, dass keine der 19 Aktionen zu realen Schäden geführt habe, und im Gegensatz zumdentmit dem „Hugging Face“ im Juli seien die Agenten nie aus ihrer isolierten Testumgebung entkommen, da AISI den Internetzugang als Teil seines Standardverfahrens zugelassen habe.

AISI

OpenAI- und Anthropic-Agenten verzeichnen 19 Verstöße bei Sicherheitstests in Großbritannien

Ein prägnanter Brief.
Jeden Tag.

AISI

OpenAI- und Anthropic-Agenten verzeichnen 19 Verstöße bei Sicherheitstests in Großbritannien

Ein prägnanter Brief.Jeden Tag.

Ein prägnanter Brief.
Jeden Tag.