KI-Modelle können riskant sein, wenn sie Schurken überlassen werden

Das Handelsministerium unter der Biden-Verwaltung zielt auf eine neue Compliance-Initiative ab, um den Export von Open- oder Closed-Source-KI-Modellen weiter einzuschränken. Die Initiative ist ein Versuch, US-Interessen und KI-Technologie vor Russland und China zu schützen und wird die Schritte ergänzen, die in den letzten zwei Jahren unternommen wurden, um den Zugang Chinas zu den neuesten fortschrittlichen Computerchips zu blockieren.

Die US-Bemühungen zielen darauf ab, strengere Schutzbarrieren um die Kernsoftware von Large Language Models zu errichten, die Apps wie ChatGPT antreiben, berichtete Reuters unter Berufung auf drei mit der Angelegenheit vertraute Quellen. Während der Nachrichtenanbieter behauptet, dass Forscher im Privatsektor und in der Regierung besorgt darüber sind, dass US-Gegner die Technologie für aggressive Cyberangriffe nutzen und biologische Waffen entwickeln könnten, hat die chinesische Botschaft die Maßnahme abgelehnt und sie als einseitiges Bullying und wirtschaftlichen Zwang bezeichnet.

Deepfakes sind eine tödliche Desinformationswaffe

Die Bedrohungen, die die USA fürchten, sind vielfältig und können von nicht-staatlichen Akteuren genutzt werden, die von Staaten unterstützt werden. Deepfakes können als effektive Waffe für Propaganda eingesetzt werden, da sie realistische, aber gefälschte Videos beinhalten, die von KI-Tools erstellt wurden. 

Diese Art von Videos taucht bereits in den sozialen Medien auf. Während solche Medieninhalte in den letzten Jahren existierten und mit Animations- und Rendering-Software entwickelt wurden, haben generative KI-Tools es jedem leicht gemacht, sie zu produzieren, und Schurkenakteure können sie leichter denn je nutzen, um die öffentliche Meinung zu sensiblen Themen zu manipulieren, insbesondere während Wahlkampagnen.

Soziale Medienplattformen wie YouTube, Facebook und Twitter haben bereits Schritte unternommen, um Deepfakes einzudämmen, aber die Taktiken zu ihrer Entwicklung und Veröffentlichung ändern sich ebenfalls mit der Entwicklung der Technologie. Im Moment können Tools von Unternehmen wie Microsoft und OpenAI verwendet werden, um Inhalte zur Verbreitung von Desinformationen zu erstellen.

Ein viel größeres Bedenken ist, dass KI-Modelle Informationen für die Entwicklung biologischer Waffen lecken können, so Forscher der Rand Corporation und Gryphon Scientific, und US-Geheimdienste, akademische Experten und Think Tanks sind besorgt über die Möglichkeit, dass KI in die Hände von Schurkenakteuren gerät.

Die Gryphon-Studie hat identifiziert, wie LLMs Expertenwissen und Wissen auf Doktorandenniveau hervorbringen können, das bei der Entwicklung von Viren mit Pandemiepotenzial helfen kann, und dies kann von nicht-staatlichen Akteuren als biologische Waffen genutzt werden.

Verstärkte Cyberangriffe mit KI-Modellen

Das Heimatschutzministerium hat ebenfalls Bedenken geäußert, dass Cyberangriffe auf kritische Infrastruktur wie Eisenbahnen und Pipelines mit KI durchgeführt werden könnten, indem neue Tools entwickelt werden, die in der Lage sind, großflächigere und komplexere Cyberangriffe durchzuführen und dies schneller zu tun.

Die Agentur sagte auch, dass China KI-Software entwickelt, die für Malware-Angriffe verwendet werden kann, und arbeitet auch an KI-Technologien, die potenziell die Cyber-Abwehr des Landes sabotieren könnten.

Bereits im Februar veröffentlichte Microsoft einen Bericht, in dem es feststellte, dass es Cyber-Gruppen identifiziert hat, die an Hacking-Aktivitäten beteiligt sind und ihre Hacking-Kampagnen perfektionieren, indem sie LLMs nutzen, und dass sie Verbindungen zur militärischen Aufklärung Russlands, der nordkoreanischen und chinesischen Regierungen sowie der Revolutionsgarden des Iran haben.

Das Unternehmen kündigte ein Verbot für staatlich finanzierte cyber groups an, die seine KI-Produkte und -Dienste nutzen. Am Mittwoch schlug eine Gruppe von Staatsmännern ein Gesetz vor, das der Biden-Regierung helfen wird, Kontrollen über den Export von KI-Modellen durchzusetzen, um deren Exposition gegenüber potenziellen Gegnern zu verhindern.

Experten zum subject haben gesagt, dass Washington versucht, übermäßige Regulierungen zu vermeiden, die Innovation unterdrücken könnten, da sie Innovation zusammen mit möglichen Lösungen für mit KI verbundene Risiken fördern wollen. Sie wiesen auch darauf hin, dass die Durchsetzung strenger Regulierungen durch die strikte Regulierung der KI-Entwicklung ein Vakuum für ausländische Wettbewerber schaffen und die Bereiche Infrastruktur, nationale Sicherheit und Arzneimittelentwicklung negativ beeinflussen wird.