US-Firma Lingo Telecom droht 1-Millionen-Dollar-Strafe für KI-generierte Biden-Robocalls

Lingo Telecom, ein US-amerikanischer Sprachdiensteanbieter, hat einen Vergleich über 1 Million US-Dollar mit der Federal Communications Commission (FCC) geschlossen. Das Unternehmen wurde beschuldigt, KI-gestützte Robocalls ermöglicht zu haben, die die Wähler der Vorwahl in New Hampshire 2024 beeinflusst haben. 

Am 21. Januar 2024 wurden zahlreiche Bürger von New Hampshire durch Anrufe mit einer Stimme, die der von Präsident Joe Biden ähnelte, eingeschüchtert. Die automatisierten Anrufe warnten die Empfänger, dass die Teilnahme an der Präsidentschaftsvorwahl des Staates zu ihrer Entmündigung bei der allgemeinen Wahl im November führen würde. Die Stimme wurde mit einem gefälschten tiefen Ton aufgezeichnet, der Joe Biden mit einem Deep-Learning-Algorithmus imitiert. 

Lingo Telecom steht vor Strafen und Compliance-Maßnahmen

Die Operation wurde vom politischen Strategen Steve Kramer durchgeführt, der sagte, das Ziel sei nicht gewesen, die Wahl zu beeinflussen, sondern zu veranschaulichen, wie gefährlich KI sein könnte. Kramers Handlungen hatten jedoch potenziell negative Auswirkungen, da sie falsche Informationen an die Wähler weitergaben und die Fairness der Wahl bedrohten. Die Technologie von Lingo Telecom wurde in diesem Prozess verwendet, da sie das Senden dieser Nachrichten an die betreffenden Personen ermöglichte. 

Im Rahmen des Vergleichs muss Lingo Telecom 1 Million US-Dollar als zivilrechtliche Strafe zahlen, während die FCC ursprünglich 2 Millionen US-Dollar gefordert hatte. Das Unternehmen ist zudem verpflichtet, einen robusten Compliance-Plan zu haben, der die Einhaltung des STIR/SHAKEN-Caller-ID-Authentifizierungsrahmens der FCC umfasst.

Dieser Rahmen ist ein Versuch, das Problem des Caller-ID-Spoofings zu lösen. Er wurde in der Robocall-Kampagne eingesetzt, um die Anrufe so aussehen zu lassen, als kämen sie von anderen legitimen Nummern. 

Die FCC hat auch betont, dass dieser Vergleich entscheidend ist, um anderen Unternehmen, die an solchen Aktivitäten beteiligt sind oder diese ermöglichen, eine deutliche Botschaft zu senden. Lingo Telecom hat den Vergleich zwar akzeptiert, die Maßnahmen der FCC jedoch stark kritisiert und angegeben, dass der Regulierer versuche, neue Regeln rückwirkend einzuführen.

FCC-Beamter warnt vor Gefahren der KI-Stimmklonung bei Wahlen

Loyaan Egal, Leiter des FCC Enforcement Bureau, hat hervorgehoben, dass Identitätsdiebstahl durch Caller-ID-Spoofing und KI-Stimmklonen sehr gefährlich ist, insbesondere während der Wahlperiode. Egal wies darauf hin, dass diese Technologien von staatlichen Akteuren zur Verfolgung politischer Agenda oder von ausländischen Akteuren zur Einmischung in die politischen Prozesse des Landes missbraucht werden können.

Steve Kramer, der politische Berater, der die Robocalls durchführte, sieht sich noch schwerwiegenderen Konsequenzen gegenüber. Die FCC hat eine Strafe von 6 Millionen US-Dollar gegen Kramer verhängt, der auch bis zu sieben Jahre Gefängnis wegen Wählerunterdrückung riskiert.

 Darüber hinaus kann Kramer zu einem Jahr Haft wegen Identitätsdiebstahls eines politischen Kandidaten verurteilt werden. Die Anklagepunkte zeigen, wie die Behörden diesen Fall sehen und ihn als klares Beispiel für die Risiken betrachten, die mit der Nutzung von KI in der Politik verbunden sind. 

Robert Weissman, Co-Präsident der gemeinnützigen Organisation Public Citizen, begrüßte die Maßnahmen der FCC in diesem Fall und sagte, Deepfakes stellten eine „existenzielle Bedrohung für unsere Demokratie“ dar.