KI könnte ein Verstärker von Desinformation sein, sagt der Staatssekretär von Arizona

Laut dem Staatssekretär von Arizona, Adrian Fontes, könnte künstliche Intelligenz (KI) vor den kommenden US-Wahlen ein „Verstärker“ von Desinformation sein. Fonte äußerte seine Befürchtungen am Sonntag in NBCs Meet the Press.

Fontes’ Aussage erfolgte nach dem Post von Präsident Biden auf X (ehemals Twitter), dass „KI und die Unternehmen, die an der Technologie arbeiten, die Welt transformieren werden, aber zuerst müssen sie unser Vertrauen gewinnen.” Der Präsident sagte, er sei entschlossen, alles in seiner Macht Stehende zu tun, um sichere und verantwortungsvolle Innovation zu fördern. Er forderte die Unternehmen auf, sich diesem Engagement anzuschließen.

KI-Desinformation ist ein Verstärker

Fontes erinnerte sich an seine Ausbildungseinheiten im Marine Corps. Er sagte, dass sie in den Bootcamps und anderen militärischen Schulungen die Waffen ihrer Feinde einschätzen mussten. Er sagte, sie müssten so viel wie möglich gegen die Waffen des Feindes trainieren.

Auch lesen: Microsoft warnt vor KI-gesteuerten Desinformationskampagnen in den kommenden Wahlen

Der Sekretär verglich KI mit Waffen und sagte, dass KI keine Waffe ist, sondern vielmehr ein Verstärker und ein Amplifikator von Fehlinformation und Desinformation. 

„Was ich tun wollte, war sicherzustellen, dass unsere Wahlbeamten damit vertraut waren, wir Prozesse hatten, um damit umzugehen und es in jedem unserer Bezirke anzugehen, da unsere Wahlen auf Bezirksebene ablaufen, sowie.“

Adrian Fontes

„Wir hatten auch eine Tischübung unter mehreren für Wahlbeamte für die Medien, damit unsere Medienpartner wissen, wie sie darauf reagieren und es erkennen können“, fügte er hinzu.

KI war nicht der einzige Teil; der Sekretär erwähnte bei der Erwähnung von innerstaatlichem Terrorismus, dass „Terrorismus als eine Bedrohung oder Gewalt für ein politisches Ergebnis definiert wird. Das ist es, was hier vorliegt.“

Der „gefälschte“ Joe Biden-Anruf bestätigt KI-Desinformation

Potenzielle KI-Bedrohungen für Wahlen sind nichts Neues. Anfang Januar dieses Jahres war ein gefälschter Roboanruf in der Stimme des US-Präsidenten Joe Biden ein heißes Diskussionsthema in TV-Shows und Nachrichtenartikeln. Der gefälschte Anruf war sorgfältig zugeschnitten, beginnend mit den Worten: „Was für ein Unsinn“, ein Begriff, den Biden zuvor verwendet hatte. 

Nach dieser Prise von Persönlichkeit fuhr der Anruf fort mit der Aussage,

„Das Wählen an diesem Dienstag ermöglicht nur den Republikanern in ihrem Streben, Donald Trump wieder zu wählen. Ihre Stimme macht im November einen Unterschied, nicht an diesem Dienstag.“

Es war ein klarer Versuch, Wähler davon abzuhalten, an diesem bestimmten Tag zur Wahlurne zu gehen. Der Roboanlauf ging vor zwei Tagen erneut um die Runde, als der politische Berater Steven Kramer, der hinter dem Anruf stand, mit 6 Millionen Dollar und insgesamt 24 Strafanzeigen belegt wurde.

Die gegen Kramer verhängte Geldstrafe war die erste für generative KI-bezogene Straftaten, sagte die Federal Communication Commission. Die Kommission schlug auch eine Geldstrafe von 2 Millionen Dollar für Lingo Telecom vor, das beschuldigt wurde, die Roboanrufe zu übertragen.

Während Lingo Telecom sagte, dass es nicht an der Produktion dieser Anrufe beteiligt war, waren die von ihm ergriffenen Maßnahmen im Einklang mit Branchenstandards und bundesstaatlichen Vorschriften. Der besorgniserregende Teil ist jedoch, dass die Anrufe von der persönlichen Nummer von Kathy Sullivan, einer ehemaligen Vorsitzenden der staatlichen Demokratischen Partei, zu stammen schienen. 

Sullivan schrieb in einer E-Mail am Donnerstag, dass „der Preis für den Versuch, eine Wahl zu manipulieren, hoch ist“, laut der Associated Press.

Desinformationskampagnen sind günstiger

KI hat das Betrügen für diejenigen, die es praktizieren wollen, günstiger und erschwinglicher gemacht. Kramer, der eine Firma besitzt, die sich auf Get-Out-The-Vote-Projekte spezialisiert hat, sagte, dass er 500 Dollar bezahlt habe, um die Anrufe an Wähler zu senden, um ihre Aufmerksamkeit auf das „KI-Problem“ zu lenken. Er sagte zuvor der AP, dass er einem Magier 150 Dollar für die Erstellung der Aufnahme bezahlt habe.

Auch lesen: Warren Buffett warnt davor, dass KI-Betrug zu einer Wachstumsindustrie wird

Wired berichtete im vergangenen Jahr, dass der Aufbau einer KI-Desinformationskampagne nur 400 Dollar kostet. Es berichtete von einem Entwickler, der gängige KI-Tools nutzte, um Anti-Russland-Tweets und -Artikel zu generieren, aber das Projekt zielte darauf ab, zu verdeutlichen, wie billig und einfach dies durchgeführt werden kann.

Laut der Nachrichtenquelle habe die Person, die sich Nea Paw nennt, die Kampagne entworfen, um die Menschen über KI-Gefahren und Desinformation aufzuklären. Paw sagte in einer E-Mail,

„Ich denke nicht, dass es eine Silberkugel dafür gibt, genauso wie es keine Silberkugel für Phishing-Angriffe, Spam oder Social Engineering gibt.“

Forscher für Desinformation sagen, dass KI verwendet werden könnte, um hochgradig personalisierte Kampagnen zur Steigerung der Desinformation zu gestalten und Social-Media-Konten zu betreiben. Der zu beachtende Punkt ist, dass Facebook und Instagram vor kurzem Tausende von Konten blockiert haben, die irgendwie mit den Netzwerken verbunden waren, die oft mit Chinas Kommunikationsmechanismus der Kommunistischen Partei assoziiert werden.

Forscher sagen, dass gefälschte Konten jetzt ausgefeiltere Methoden verwenden, um ihre Desinformationskampagnen durchzuführen, da sie jetzt organische Methoden nutzen, um ihre Reichweite zu erhöhen und authentisch zu wirken. Nicht zu vergessen die Worte des legendären Investors Warren Buffett, der sagte, dass KI-Betrug die „am schnellsten wachsende Branche aller Zeiten“ sein könnte. 

Betrug und Wahl-Desinformation haben Verbindungen, da beide verwendet werden, um Menschen in die Irre zu führen. Wie Buffett sagt: „Es hat ein enormes Potenzial für Gutes und ein enormes Potenzial für Schaden, und ich weiß einfach nicht, wie sich das entwickeln wird.“

Bericht von Cryptopolitan von Aamir Sheikh