FCC-Vorsitzende schlägt neues Gesetz vor, um KI-generierte Stimmen zu verbieten

In einer jüngsten Entwicklung hat Jessica Rosenworcel, Vorsitzende der US-Bundesbehörde für Kommunikation (FCC), vorgeschlagen, Anrufe mit künstlicher Intelligenz (KI)-generierten Stimmen als illegal zu klassifizieren. Die beabsichtigten Vorschriften und Strafen würden in den Zuständigkeitsbereich des Telephone Consumer Protection Act (TCPA) fallen. Diese Initiative der FCC-Vorsitzenden folgt auf einen beunruhigenden Vorfall, bei dem KI-generierte Stimmen verwendet wurden, um eine falsche Nachricht zu verbreiten, die die Stimme des US-Präsidenten Joe Biden imitierte.

FCC-Vorsitzende schlägt Verbot von KI-generierten Stimmen vor

Die gefälschten Nachrichten rieten den Bewohnern von New Hampshire davon ab, an der Vorwahl des Bundesstaats teilzunehmen, mit dem offensichtlichen Ziel, in die bevorstehende Präsidentschaftswahl 2024 einzugreifen. Die automatisierten Anrufe, die eine Imitation der Stimme von Präsident Biden enthielten, wurden schnell von der Kanzlei des Generalstaatsanwalts des Bundesstaats als Desinformation markiert.

Als Reaktion auf das eskalierende Problem von KI-gestützten Robocalls sucht die Initiative von FCC-Vorsitzender Rosenworcel, das TCPA, ein Gesetz von 1991, das automatisierte politische und Marketing-Anrufe ohne Zustimmung des Empfängers reguliert, herbeizuziehen. Das primäre Ziel des TCPA ist es, Verbraucher vor unerwünschten und aufdringlichen Kommunikationen zu schützen, einschließlich unerwünschter Telemarketing-Anrufe und automatisierter Nachrichten.

Die Verbreitung solcher Anrufe hat in den letzten Jahren einen signifikanten Anstieg erlebt, da technologische Fortschritte die irreführende Nachahmung von Stimmen von Prominenten, politischen Figuren und sogar Familienmitgliedern ermöglichen. Wenn angenommen, würde der Vorschlag der FCC-Vorsitzenden Rosenworcel Generalstaatsanwälten in der gesamten Nation zusätzliche Werkzeuge geben, um diejenigen zu verfolgen, die für diese bösartigen Robocalls verantwortlich sind, und rechtliche Konsequenzen durchzusetzen.

Diese Initiative der FCC-Vorsitzenden folgt der Notice of Inquiry der Agentur im November 2023, die nach Informationen zur Bekämpfung illegaler Robocalls und der potenziellen Beteiligung von KI suchte. Die Untersuchung ging der Rolle von KI bei Betrug, Stimmnachahmung und der Frage nach, ob sie unter das TCPA reguliert werden sollte, auf den Grund. Darüber hinaus bemerkte die FCC-Vorsitzende, dass die Firma Einblicke darin sammeln will, wie KI positiv genutzt werden könnte, insbesondere bei der Erkennung und Verhinderung illegaler Robocalls.

KI-Landschaft und legislative Antworten

Auf einer breiteren Ebene veröffentlichte das Weiße Haus am 29. Januar ein Factsheet, das wichtige Maßnahmen zur KI umriss, drei Monate nach dem Exekutivbefehl von Präsident Biden zur KI. Das Factsheet erkannte „substanzielle Fortschritte“ in Richtung des Mandats des Präsidenten an, „die Amerikaner vor den potenziellen Risiken von KI-Systemen zu schützen“.

Der Aufstieg von Deepfakes, KI-generierte Inhalte, die hochgradig irreführend sein können, hat Bedenken ausgelöst. Das Weltwirtschaftsforum hob in seinem 19. Global Risks Report nachteilige Ergebnisse im Zusammenhang mit KI-Technologien hervor. Die Bedenken erstrecken sich über die USA hinaus, da der Canadian Security Intelligence Service, Kanadas primäre nationale Geheimdienstagentur, Bedenken bezüglich Desinformationskampagnen äußerte, die KI-Deepfakes im Internet einsetzen.

Als Reaktion auf die breiteren Herausforderungen, die durch KI-generierte Inhalte entstehen, haben US-Gesetzgeber zur Gesetzgebung aufgefordert, die die Produktion von Deepfake-Bildern unter Strafe stellt. Dieser Aufruf zur Aktion kommt nach der weit verbreiteten Zirkulation expliziter gefälschter Fotos von Prominenten wie Taylor Swift. Die Schnittstelle von KI und Kommunikationstechnologien wirft komplexe Herausforderungen auf, die einen Ausgleich zwischen Innovation und Regulierung erfordern.

Während KI weiter voranschreitet, ringen politische Entscheidungsträger, Regulierungsbehörden und Strafverfolgungsbehörden mit der Aufgabe, rechtliche Rahmenbedingungen anzupassen, um den potenziellen Missbrauch dieser Technologien zu adressieren. Der Vorschlag, KI-generierte Telefonanrufe als illegal unter bestehender Gesetzgebung zu kategorisieren, stellt einen proaktiven Schritt dar, um die wachsenden Bedenken hinsichtlich irreführender automatisierter Anrufe und der breiteren Implikationen von KI in der Kommunikation anzugehen.