La presidenta de la FCC propone una nueva ley para prohibir las voces generadas por IA

En un desarrollo reciente, Jessica Rosenworcel, Presidenta de la Comisión Federal de Comunicaciones de Estados Unidos, ha propuesto clasificar las llamadas que presentan voces generadas por inteligencia artificial (IA) como ilegales. Las regulaciones y multas previstas caerían bajo la jurisdicción de la Ley de Protección al Consumidor Telefónico (TCPA). Esta iniciativa de la Presidenta de la FCC llega tras un incidente alarmante donde se utilizaron voces generadas por IA para difundir un mensaje falso, imitando la voz del presidente de EE. UU., Joe Biden.

La presidenta de la FCC propone prohibir las voces generadas por IA

Los mensajes fabricados aconsejaban a los residentes de New Hampshire contra la participación en las elecciones primarias del estado, con el aparente objetivo de interferir en las próximas elecciones presidenciales de 2024. Las llamadas automatizadas, que presentaban una imitación de la voz del presidente Biden, fueron rápidamente señaladas como desinformación por la oficina del fiscal general del estado.

En respuesta al creciente problema de las llamadas robóticas habilitadas por IA, la propuesta de la presidenta de la FCC Rosenworcel busca invocar la TCPA, una ley de 1991 diseñada para regular las llamadas políticas y de marketing automatizadas realizadas sin el consentimiento del destinatario. El objetivo principal de la TCPA es proteger a los consumidores de comunicaciones no deseadas e intrusivas, incluidas las llamadas de telemarketing no solicitadas y los mensajes automatizados.

La prevalencia de este tipo de llamadas ha experimentado un aumento significativo en los últimos años, ya que los avances tecnológicos permiten la imitación engañosa de voces pertenecientes a celebridades, figuras políticas e incluso miembros de la familia. Si se adopta, la propuesta de la presidenta de la FCC Rosenworcel empoderaría a los fiscales generales de los estados en todo el país con herramientas adicionales para perseguir a los responsables de estas llamadas robóticas maliciosas y hacer cumplir las consecuencias legales.

Esta iniciativa de la presidenta de la FCC sigue al Aviso de Investigación de la agencia en noviembre de 2023, que buscaba información sobre cómo abordar las llamadas robóticas ilegales y la posible participación de la IA. La investigación profundizó en el papel de la IA en las estafas, la imitación de voces y si debería estar sujeta a regulación bajo la TCPA. Además, la presidenta de la FCC señaló que la firma tiene como objetivo recopilar información sobre cómo la IA podría aprovecharse positivamente, particularmente en el reconocimiento y prevención de llamadas robóticas ilegales.

Panorama de la IA y respuestas legislativas

A una escala más amplia, la Casa Blanca publicó una hoja de datos que describe las acciones clave sobre la IA el 29 de enero, tres meses después de la orden ejecutiva del presidente Biden sobre la IA. La hoja de datos reconoció un «progreso sustancial» hacia el mandato del presidente de «proteger a los estadounidenses de los posibles riesgos de los sistemas de IA».

El auge de los deepfakes, contenido generado por IA que puede ser altamente engañoso, ha generado preocupaciones. El Foro Económico Mundial, en su 19º Informe de Riesgos Globales, destacó resultados adversos asociados con las tecnologías de IA. Las preocupaciones se extienden más allá de Estados Unidos, ya que el Servicio de Inteligencia de Seguridad de Canadá, la principal agencia de inteligencia nacional de Canadá, expresó preocupaciones sobre campañas de desinformación que emplean deepfakes de IA en internet.

Respondiendo a los desafíos más amplios planteados por el contenido generado por IA, los legisladores de Estados Unidos han instado a la legislación que penalice la producción de imágenes deepfake. Esta llamada a la acción llega después de la circulación generalizada de fotos falsas explícitas de celebridades, como Taylor Swift. La intersección de la IA y las tecnologías de comunicación plantea desafíos complejos, que requieren un equilibrio entre la innovación y la regulación.

A medida que la IA continúa evolucionando, los legisladores, reguladores y agencias de aplicación de la ley lidian con la tarea de adaptar los marcos legales para abordar el posible mal uso de estas tecnologías. La propuesta de categorizar las llamadas de voz generadas por IA como ilegales bajo la legislación existente representa un paso proactivo para abordar las crecientes preocupaciones en torno a las llamadas robóticas engañosas y las implicaciones más amplias de la IA en la comunicación.