Künstliche Intelligenz könnte ein Verstärker von Desinformation sein, sagt der Staatssekretär von Arizona

Laut Arizonas Staatssekretär Adrian Fontes könnte künstliche Intelligenz (KI) im Vorfeld der anstehenden US-Wahlen als Verstärker von Desinformationen wirken. Fontes äußerte seine Bedenken am Sonntag in der NBC-Sendung „Meet the Press“.

Fontes' Stellungnahme erfolgte im Anschluss an Präsidentdent Beitrag auf X (ehemals Twitter), in dem er erklärte: „KI und die Unternehmen, die an dieser Technologie arbeiten, werden die Welt verändern, aberzuerst müssen sie unser Vertrauen gewinnen.“ Der Präsidentdent , er werde alles in seiner Macht Stehende tun, um sichere und verantwortungsvolle Innovationen zu fördern. Er rief Unternehmen dazu auf, sich diesem Engagement anzuschließen.

KI-Desinformation wirkt wie ein Vergrößerungsglas

Fontes erinnerte sich an seine Ausbildung beim Marine Corps. Er sagte, dass sie in den Ausbildungslagern und anderen militärischen Trainings die Waffen ihrer Feinde analysieren mussten. Sie mussten so viel wie möglich gegen die feindlichen Waffen trainieren.

Lesen Sie auch: Microsoft warnt vor KI-gesteuerten Desinformationskampagnen bei den bevorstehenden Wahlen

Der Minister verglich KI mit Waffen und sagte, KI sei keine Waffe, sondern vielmehr ein Vergrößerungs- und Verstärker für Fehlinformationen und Desinformation. 

„Ich wollte sicherstellen, dass unsere Wahlbeamten damit vertraut sind und dass wir in jedem unserer Landkreise Verfahren haben, um damit umzugehen und das Problem zu lösen, denn unsere Wahlen werden ja auch auf Landkreisebene durchgeführt.“

Adrian Fontes

„Wir haben außerdem eine Planspielübung mit mehreren Wahlbeamten für die Medien durchgeführt, damit unsere Medienpartner wissen, wie sie darauf reagieren und es erkennen können“, fügte er hinzu.

KI war nicht der einzige Aspekt; der Minister erwähnte den inländischen Terrorismus und sagte: „Terrorismus wird defi. Genau das ist es hier.“

Der „gefälschte“ Anruf von Joe Biden bestätigt KI-Desinformation

Potenzielle KI-Bedrohungen für Wahlen sind nicht neu. Anfang Januar dieses Jahres sorgte ein gefälschter Anruf in der Stimme des US-dent Joe Biden für viel Gesprächsstoff in Fernsehsendungen und Nachrichtenartikeln. Der gefälschte Anruf war sorgfältig aufbereitet und begann mit den Worten „Was für ein Blödsinn!“, einem Ausdruck, den Biden zuvor selbst verwendet hatte. 

Nach diesem persönlichen Touch wurde das Gespräch fortgesetzt mit den Worten:

„Wenn Sie diesen Dienstag wählen gehen, helfen Sie nur den Republikanern in ihrem Bestreben, Donald Trump wiederzuwählen. Ihre Stimme zählt erst im November, nicht an diesem Dienstag.“

Es handelte sich eindeutig um einen Versuch, Wähler an diesem Tag von der Stimmabgabe abzuhalten. Der automatisierte Anruf kursierte vor zwei Tagen erneut, woraufhin der Politikberater Steven Kramer, der hinter dem Anruf steckte, wegen Geldstrafe in Höhe von 6 Millionen Dollar und insgesamt 24 Straftaten angeklagt wurde.

Die gegen Kramer verhängte Geldstrafe war die erste ihrer Art im Zusammenhang mit generativer KI, so die US-amerikanische Kommunikationsbehörde FCC. Die FCC schlug außerdem eine Geldstrafe von 2 Millionen US-Dollar für Lingo Telecom vor, dem die Übermittlung der automatisierten Anrufe vorgeworfen wurde.

Lingo Telecom erklärte zwar, nicht an der Durchführung dieser Anrufe beteiligt gewesen zu sein, die ergriffenen Maßnahmen entsprächen jedoch den Branchenstandards und Bundesvorschriften. Besorgniserregend ist jedoch, dass die Anrufe von der privaten Telefonnummer von Kathy Sullivan, einer ehemaligen Vorsitzenden der Demokratischen Partei des Bundesstaates, ausgingen. 

schrieb Sullivan am Donnerstag in einer E-Mail: „Der Versuch, eine Wahl zu manipulieren, hat einen hohen Preis. Laut Associated Press“

Desinformationskampagnen sind kostengünstiger

Künstliche Intelligenz hat Betrug billiger und erschwinglicher gemacht. Kramer, Inhaber einer Firma, die sich auf Projekte zur Mobilisierung von Wählern spezialisiert hat, gab an, 500 Dollar für Anrufe an Wähler bezahlt zu haben, um sie auf das „KI-Problem“ aufmerksam zu machen. Gegenüber der Nachrichtenagentur AP erklärte er zuvor, 150 Dollar an einen Zauberer für die Erstellung der Aufnahme gezahlt zu haben.

Lesen Sie auch: Warren Buffett warnt vor KI-Betrug als Wachstumsbranche

Wired berichtete letztes Jahr, dass der Aufbau einer KI-gestützten Desinformationskampagne nur 400 Dollar kostet. Das Magazin berichtete über einen Entwickler, der gängige KI-Tools nutzte, um antirussische Tweets und Artikel zu generieren. Das Projekt zielte jedoch darauf ab, aufzuzeigen, wie günstig und einfach dies möglich ist.

Laut dem Nachrichtenportal hat eine Person namens Nea Paw die Kampagne ins Leben gerufen, um die Öffentlichkeit über die Gefahren von KI und Desinformation aufzuklären. Paw erklärte in einer E-Mail:

„Ich glaube nicht, dass es dafür eine Patentlösung gibt, genauso wenig wie es eine Patentlösung für Phishing-Angriffe, Spam oder Social Engineering gibt.“

Desinformationsforscher warnen davor, dass KI zur Erstellung hochgradig personalisierter Kampagnen zur Verbreitung von Desinformation und zur Steuerung von Social-Media-Konten eingesetzt werden könnte. Bemerkenswert ist, dass Facebook und Instagram kürzlich Tausende von Konten gesperrt haben, die in irgendeiner Weise mit Netzwerken verbunden waren, die häufig mit dem Kommunikationsapparat der Kommunistischen Partei Chinas in Verbindung gebracht werden.

Forscher berichten, dass gefälschte Accounts mittlerweile ausgefeiltere Methoden für ihre Desinformationskampagnen einsetzen, indem sie organische Methoden nutzen, um ihre Reichweite zu erhöhen und authentisch zu wirken. Nicht zu vergessen die Worte des legendären Investors Warren Buffett, der KI-Betrug als potenziell die am schnellsten wachsende Branche aller Zeiten bezeichnete 

Betrug und Desinformation im Wahlkampf hängen insofern zusammen, als beide dazu dienen, Menschen in die Irre zu führen. Wie Buffett sagt: „Es birgt ein enormes Potenzial für Gutes und ein enormes Potenzial für Schlechtes, und ich weiß einfach nicht, wie sich das entwickeln wird.“

Cryptopolitan Berichterstattung von Aamir Sheikh