KI-gestützte Sicherheitstools und DARPA’s neue Herausforderung für Open-Source-Entwickler
- DARPA startet die AI Cyber Challenge (AIxCC), um KI-basierte Sicherheitstools voranzubringen und bietet 20 Mio. US-Dollar an Preisen.
- Die Auswirkungen der KI auf die Sicherheit bleiben ungewiss, doch Experten warnen davor, ihr Potenzial zu ignorieren.
- Multimodale KI, die sich aus generativer KI entwickelt, wird bald Chats, Videos und Körpersprache interpretieren können.
Künstliche Intelligenz (KI), insbesondere große Sprachmodelle (LLMs) wie GPT, stand im Mittelpunkt der Diskussionen auf den jüngsten Black Hat- und Def Con-Konferenzen in Las Vegas. Experten sind jedoch gespalten, wie sich KI auf die Sicherheitslage von Unternehmen auswirken wird, vom Schutz interner Daten bis zur Entwicklung von Anwendungen.
Maria Markstedter, eine Reverse-Engineerin und Experte für Exploitation bei Arm, paraphrasierte die Aussage von OpenAI-CEO Sam Altman, dass „KI höchstwahrscheinlich zum Ende der Welt führen wird, aber in der Zwischenzeit wird es großartige Unternehmen geben.“ Markstedter empfahl während ihrer Keynote auf der Black Hat-Konferenz das Motto „Move fast, break shit“ (Beweg dich schnell, zerbrich Scheiße) und betonte, dass Produkte oft anfangs über keine Sicherheitsfunktionen verfügen und Unternehmen gezwungen werden müssen, in Sicherheit zu investieren.
Generative KI und multimodale KI
Generative KI, die sich derzeit auf Text konzentriert, entwickelt sich laut Markstedter zu multimodaler KI, die in der Lage ist, Chats, Live-Video-Antworten, Stimmungsanalysen und sogar die Interpretation von Körpersprache zu verarbeiten. Sie betonte die Bedeutung der Aufrechterhaltung der Anonymität in diesen Systemen und die Notwendigkeit, die Datensicherheit neu zu denken.
Auswirkungen auf die Sicherheit
Die Auswirkungen von KI auf die Sicherheit sind noch ungewiss. Markstedter wies darauf hin, dass KI bereits die Datensicherheit beeinflusst, wie sich daran zeigt, dass Mitarbeiter Daten in Black-Box-KI-Chatbots kopieren. Die breiteren Implikationen für die Sicherheit bleiben jedoch unklar. LLMs können bösartigen Code generieren, können ihn aber nicht ausführen, so zwei ehemalige OpenAI-Mitarbeiter, die über das potenzielle Einsatzgebiet von KI in der Sicherheit diskutierten.
Trotz der Unsicherheit bestand Einigkeit darin, dass ein Verbot von KI keine langfristige Lösung ist. Unternehmen sind bestrebt, KI-Technologien zu übernehmen, und die KI-Sicherheit wird schließlich die Akzeptanz von LLMs und anderen KI-Technologien erfordern. Diejenigen, die dies nicht tun, werden zurückfallen, warnten Sicherheitsexperten.
KI in der Sicherheit umarmen
Markstedter argumentierte, dass die Integration autonomer Agenten riskant ist, es jedoch unerlässlich ist, ihre Realität zu akzeptieren und Lösungen zu entwickeln, um sie sicherer zu machen. „Dies ist unsere Chance, uns selbst [und] unsere Sicherheitslage neu zu erfinden“, sagte sie und rief die Gemeinschaft auf, zusammenzukommen und die Forschung zu fördern.
Die DARPA KI-Cyber-Herausforderung
Die Verteidigungsorganisation DARPA hat die Teilnehmer der Black Hat- und Def Con-Konferenzen herausgefordert, bei der Schaffung eines KI-basierten responsiven Sicherheitssystems der nächsten Generation zu helfen. Perri Adams, Programmmanagerin im Information Innovation Office von DARPA, kündigte die zweijährige AI Cyber Challenge (AIxCC) auf der Black Hat-Keynote-Veranstaltung an.
AIxCC zielt darauf ab, eine neue Generation von Cybersicherheitstools zu entwickeln, und bietet insgesamt 20 Millionen US-Dollar an Preisen für die Teams, die die besten Systeme erstellen. Der Wettbewerb hat zwei Spuren: die Funded Track (geförderte Spur) und die Open Track (offene Spur). Teilnehmer der Funded Track werden aus Vorschlägen ausgewählt, die im Rahmen einer Small Business Innovation Research-Solicitation eingereicht wurden, wobei bis zu sieben kleine Unternehmen mit bis zu 1 Million US-Dollar gefördert werden. Teilnehmer der Open Track können sich über die Wettbewerbswebsite registrieren, ohne DARPA-Förderung.
Im Jahr 2024 wird DefCon die fünf besten Unternehmen bestimmen, die in eine zweite Runde der Experimentierung mit zusätzlichen 2 Millionen US-Dollar an Finanzierung vorrücken. Die Gewinner von Def Con 2025 erhalten 4 Millionen US-Dollar für den ersten Platz, 3 Millionen US-Dollar für den zweiten Platz und 1,5 Millionen US-Dollar für den dritten Platz.
Zusammenarbeit mit führenden KI-Unternehmen
AIxCC arbeitet mit führenden KI-Unternehmen zusammen, darunter Anthropic, Google, Microsoft und OpenAI. Die Open Source Security Foundation (OpenSSF), ein Projekt der Linux Foundation, wird als Herausforderungsberater fungieren, um Teams bei der Erstellung von KI-Systemen zu unterstützen, die in der Lage sind, wichtige Cybersicherheitsprobleme anzugehen, wie die Sicherheit der kritischen Infrastruktur des Landes und der Software-Lieferketten.
Die AIxCC-Wettbewerbe werden auf der DEF CON stattfinden und aus zwei Phasen bestehen: der Halbfinalphase und der Finalphase. Beide Wettbewerbe finden 2024 und 2025 auf der DEF CON in Las Vegas statt.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
John Palmer
John Murangiri kam mit Kenntnissen in Marktanalyse zu Cryptopolitan. John (auch bekannt als JP) hat an der Universität Nairobi einen Bachelorabschluss in Massenkommunikation und Medienstudien erworben. Er hat zuvor Crypto-Markt-Einblicke für InsideBitcoins.com und Metacoingraph beigesteuert.
