Lingo Telecom, ein US-amerikanischer Anbieter von Telefoniediensten, hat sich mit der Federal Communications Commission (FCC) auf einen Vergleich in Höhe von einer Million US-Dollar geeinigt. Dem Unternehmen wurde vorgeworfen, KI-gestützte Werbeanrufe ermöglicht zu haben, die die Wähler bei den Vorwahlen in New Hampshire 2024 beeinflussten.
Am 21. Januar 2024 wurden zahlreiche Bürger von New Hampshire durch Anrufe mit einer Stimme, die der vondent Joe Biden ähnelte, eingeschüchtert. In den automatisierten Anrufen wurde den Angerufenen mitgeteilt, dass ihre Teilnahme an den Vorwahlen des BundesstaatesdentAusschluss von der Präsidentschaftswahl im November führen würde. Die Stimme wurde mithilfe eines Deep-Learning-Algorithmus erzeugt und so verfremdet, dass sie Joe Bidens Stimme imitierte.
Lingo Telecom drohen Strafen und Compliance-Maßnahmen
Die Operation wurde vom politischen Strategen Steve Kramer durchgeführt, der erklärte, Ziel sei nicht die Beeinflussung der Wahl gewesen, sondern die Veranschaulichung der Gefahren von KI. Kramers Vorgehen hatte jedoch potenziell negative Folgen: Er verbreitete Falschinformationen unter den Wählern und gefährdete die Fairness der Wahl. Die Technologie von Lingo Telecom kam dabei zum Einsatz, da sie den Versand der Nachrichten an die betroffenen Personen ermöglichte.
Im Rahmen der Einigung muss Lingo Telecom eine Zivilstrafe von 1 Million US-Dollar zahlen, während die FCC ursprünglich 2 Millionen US-Dollar gefordert hatte. Das Unternehmen ist außerdem verpflichtet, einen umfassenden Compliance-Plan zu erstellen, der die Einhaltung des STIR/SHAKEN-Anruferidentifizierungs-Authentifizierungssystems der FCC beinhaltet.
Dieses Framework ist ein Versuch, das Problem der Anrufer-ID-Manipulation zu lösen. Es wurde in der Robocall-Kampagne eingesetzt, um die Anrufe so aussehen zu lassen, als kämen sie von anderen, legitimen Nummern.
Die FCC betonte zudem, dass diese Einigung ein wichtigestronan andere Unternehmen sende, die an solchen Aktivitäten beteiligt sind oder diese ermöglichen. Lingo Telecom akzeptierte die Einigung zwar, kritisierte aber das Vorgehen der FCCtronund warf der Regulierungsbehörde vor, neue Regeln rückwirkend einzuführen.
FCC-Beamter hebt Gefahren durch KI-Stimmenklonierung bei Wahlen hervor
Loyaan Egal, Leiter des FCC-Vollzugsbüros, wies darauf hin , dass Identitätsdiebstahl durch Manipulation der Anrufer-ID und KI-gestützte Stimmklonierung besonders während Wahlen sehr gefährlich sei. Egal betonte, dass diese Technologien von staatlichen Akteuren zur Verfolgung politischer Ziele oder von ausländischen Akteuren zur Einmischung in die politischen Prozesse des Landes missbraucht werden könnten.
Steve Kramer, der politische Berater, der die automatisierten Anrufe tätigte, muss mit noch gravierenderen Konsequenzen rechnen. Die FCC hat eine Geldstrafe von 6 Millionen Dollar gegen Kramer vorgeschlagen; zudem drohen ihm bis zu sieben Jahre Haft wegen Wählerunterdrückung.
Darüber hinaus droht Kramer eine einjährige Haftstrafe wegen Amtsanmaßung. Die Anklagepunkte verdeutlichen, wie die Behörden diesen Fall betrachten: als klares Beispiel für die Risiken, die mit dem Einsatz von KI in der Politik einhergehen.
Robert Weissman, Co-Präsident dent gemeinnützigen Organisation Public Citizen, begrüßte das Vorgehen der FCC in diesem Fall und erklärte, Deepfakes stellten eine „existenzielle Bedrohung für unsere Demokratie“ dar.
