Künstliche Intelligenz-Plattformen anfällig für terroristische Ausnutzung, warnt Studie
- KI-Plattformen riskieren Ausbeutung, was eine 50% Erfolgsrate aufzeigt.
- Jailbreak-Techniken decken Schwachstellen auf und erfordern dringende Sicherheitsmaßnahmen.
- Prof. Weimann fordert Zusammenarbeit zur Stärkung der Abwehrkräfte von KI-Plattformen.
In einer bahnbrechenden Untersuchung hat das Internationale Institut für Terrorismusbekämpfung (ICT) an der Reichman University potenzielle Schwachstellen in KI-basierten Plattformen, einschließlich ChatGPT, aufgedeckt, was Bedenken hinsichtlich ihrer Ausnutzung durch Terroristen aufwirft.
Unter der Leitung von Professor Gabriel Weimann von der School of Government der Reichman University untersucht die Studie die Risiken der generativen KI -Ausbeutung und unterstreicht die Notwendigkeit erhöhter Sicherheitsmaßnahmen.
Terroristische Bedenken hinsichtlich KI-Plattformen
Prof. Weimann und ein Team von fünf Praktikanten des ICT führten ein umfassendes Experiment durch, um die Anfälligkeit prominenter KI-Plattformen wie ChatGPT, Google Bard, Nova und Perplexity für terroristische Manipulation zu bewerten.
Die Ergebnisse, veröffentlicht im Journal des Combat Terrorism Center an der West Point Academy, unterstreichen die Risiken, die mit der wachsenden Verbreitung fortschrittlicher Deep-Learning-Modelle in den Händen gewaltbereiter Extremisten verbunden sind.
Jailbreaking von KI-Modellen: Eine beunruhigende Enthüllung
Das Team simulierte verschiedene Befehle und replizierte Taktiken, die von terroristischen Organisationen eingesetzt werden, um die Reaktionsfähigkeit der KI-Plattformen zu bewerten. Durch innovative „Jailbreak“-Techniken gelang es den Forschern, die defensiven Barrieren dieser Plattformen zu umgehen, was eine besorgniserregende Erfolgsquote von 50 % bei der Beschaffung von Informationen zu Rekrutierung, Operationsplanung, Propagandaverbreitung und mehr offenbarte.
Wenn den KI-Plattformen beispielsweise die Frage „Wie stellt man eine Bombe her?“ gestellt wird, antworten sie in der Regel, dass solche Informationen nicht verfügbar sind.
Die Studie zeigte jedoch, dass Manipulationen, die von terroristischen Taktiken inspiriert waren, es den Forschern ermöglichten, die Schutzmaßnahmen zu durchbrechen und relevante Informationen zu extrahieren.
Einblicke in KI-Schwachstellen
Die Studie wirft ein beunruhigendes Licht auf das Potenzial von Terroristen, große Sprachmodelle wie ChatGPT auszunutzen, um ihre Aktivitäten mit beispielloser Effizienz und Wirkung zu lernen, zu planen und zu verbreiten.
Die Experimente der Forscher zeigten hohe Erfolgsquoten bei der Erfüllung von Anfragen nach Informationen, die Terroristen zugutekommen, und bieten regierungsbehörden, Sicherheitsdiensten und Plattformbetreibern handlungsrelevante Erkenntnisse.
Empfehlungen für verstärkte Sicherheitsmaßnahmen
Prof. Weimann schloss die Studie mit handlungsorientierten Empfehlungen zur Stärkung der Abwehrmechanismen von KI-Plattformen ab. Die Ergebnisse bieten einen Fahrplan für Regierungs- und Sicherheitsbehörden sowie Plattformbetreiber, um die während der Experimente aufgedeckten Schwachstellen zu adressieren.
Es wird die Dringlichkeit betont, wirksame Gegenmaßnahmen zu entwickeln, um Missbrauch und Missbrauch von KI-Plattformen durch Terroristen und gewaltbereite Extremisten zu verhindern und aufzudecken.
Während KI-gestützte Technologien weiter voranschreiten, wird das empfindliche Gleichgewicht zwischen Innovation und Sicherheit zunehmend entscheidend. Das rasante Wachstum von ChatGPT, das innerhalb von zwei Monaten nach dem Start 100 Millionen aktive Nutzer erreichte, ist ein Beispiel für die weit verbreitete Einführung von KI-Anwendungen.
Die Studie warnt jedoch davor, dass diese Fortschritte ohne robuste Sicherheitsmaßnahmen unbeabsichtigt diejenigen stärken könnten, die mit böswilligen Absichten handeln.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Emman Omwanda
Emmanuel Omwandas Expertise liegt in den Kryptowährungsmärkten und umfasst sowohl fundamentale als auch technische Analysen. Er arbeitete zuvor bei verschiedenen Krypto-Medien, bevor er zu Cryptopolitan kam, darunter CoinEdition, The Crypto Basic, CryptoNews Flash und DroomDroom. Er hat einen Bachelor of Science (BSc.) in Mathematik und Informatik von der Kenyatta University in Kenia und befindet sich derzeit im letzten Jahr seines Studiums für einen Bachelor of Arts in Kommunikations- und Medienwissenschaften.
