Jessica Rosenworcel, Vorsitzende der US-amerikanischen Federal Communications Commission (FCC), hat kürzlich vorgeschlagen, Anrufe mit KI-generierten Stimmen als illegal einzustufen. Die geplanten Regelungen und Strafen würden unter den Telephone Consumer Protection Act (TCPA) fallen. Diese Initiative der FCC-Vorsitzenden folgt auf einen alarmierenden Vorfall, dent dem KI-generierte Stimmen missbraucht wurden, um eine Falschmeldung zu verbreiten und dabei die Stimme des US-Präsidenten dent Biden nachzuahmen.
Der Vorsitzende der FCC schlägt ein Verbot von KI-generierten Stimmen vor.
Die gefälschten Nachrichten rieten den Einwohnern von New Hampshire von der Teilnahme an den Vorwahlen des Bundesstaatesdent, offenbar mit dem Ziel, diedent2024 zu beeinflussen. Die automatisierten Anrufe, in denen die Stimme vondent Biden imitiert wurde, wurden von der Staatsanwaltschaft umgehend als Falschinformation eingestuft.
Angesichts des zunehmenden Problems KI-gestützter Werbeanrufe schlägt FCC-Vorsitzender Rosenworcel vor, den TCPA (Telephone Consumer Protection Act) von 1991 anzuwenden. Dieses Gesetz regelt automatisierte politische und Marketinganrufe, die ohne Einwilligung des Empfängers erfolgen. Hauptziel des TCPA ist der Schutz von Verbrauchern vor unerwünschter und aufdringlicher Kommunikation, einschließlich unerwünschter Werbeanrufe und automatisierter Nachrichten.
Die Zahl solcher Anrufe hat in den letzten Jahren deutlich zugenommen, da technologische Fortschritte die täuschend echte Nachahmung von Stimmen von Prominenten, Politikern und sogar Familienmitgliedern ermöglichen. Sollte der Vorschlag der FCC-Vorsitzenden Rosenworcel angenommen werden, würden die Generalstaatsanwälte der Bundesstaaten landesweit zusätzliche Instrumente erhalten, um die Verantwortlichen für diese betrügerischen Werbeanrufe zu verfolgen und rechtliche Konsequenzen durchzusetzen.
Die Initiative der FCC-Vorsitzenden folgt auf die Anfrage der Behörde vom November 2023, in der Informationen zur Bekämpfung illegaler Werbeanrufe und der mögliche Einsatz von KI angefordert wurden. Die Anfrage befasste sich mit der Rolle von KI bei Betrugsversuchen, Stimmenimitation und der Frage, ob sie gemäß dem TCPA reguliert werden sollte. Die FCC-Vorsitzende merkte zudem an, dass das Unternehmen Erkenntnisse darüber gewinnen möchte, wie KI positiv genutzt werden kann, insbesondere zur Erkennung und Verhinderung illegaler Werbeanrufe.
KI-Landschaft und gesetzliche Reaktionen
Im weiteren Sinne veröffentlichte das Weiße Haus am 29. Januar, drei Monate nachdent Bidens Exekutivanordnung zu KI, ein Faktenblatt mit den wichtigsten Maßnahmen im Bereich KI. Das Faktenblatt bestätigte „substanzielle Fortschritte“ bei der Umsetzung des Auftrags desdent, „die Amerikaner vor den potenziellen Risiken von KI-Systemen zu schützen“.
Der Aufstieg von Deepfakes, KI-generierten Inhalten, die stark irreführend sein können, hat Besorgnis ausgelöst. Das Weltwirtschaftsforum hob in seinem 19. Globalen Risikobericht die negativen Folgen von KI-Technologien hervor. Diese Besorgnis beschränkt sich nicht auf die Vereinigten Staaten: Auch der kanadische Inlandsgeheimdienst CSIS, Kanadas wichtigster nationaler Nachrichtendienst, äußerte Bedenken hinsichtlich Desinformationskampagnen, die KI-Deepfakes im Internet einsetzen.
Angesichts der weitreichenden Herausforderungen durch KI-generierte Inhalte haben US-amerikanische Gesetzgeber Gesetze gefordert, die die Herstellung von Deepfake-Bildern unter Strafe stellen. Dieser Aufruf erfolgt im Zuge der Verbreitung expliziter gefälschter Fotos von Prominenten wie Taylor Swift. Das Zusammenspiel von KI und Kommunikationstechnologien wirft komplexe Fragen auf und erfordert ein ausgewogenes Verhältnis zwischen Innovation und Regulierung.
Angesichts der fortschreitenden Entwicklung von KI stehen Politik, Regulierungsbehörden und Strafverfolgungsbehörden vor der Herausforderung, die rechtlichen Rahmenbedingungen anzupassen, um dem potenziellen Missbrauch dieser Technologien entgegenzuwirken. Der Vorschlag, KI -generierte Sprachanrufe gemäß geltendem Recht als illegal einzustufen, stellt einen proaktiven Schritt dar, um den wachsenden Bedenken hinsichtlich betrügerischer Werbeanrufe und den weitreichenderen Auswirkungen von KI in der Kommunikation zu begegnen.
