La FCC prohíbe las llamadas de voz generadas por IA en EE. UU. tras eldent de deepfake de Biden

La Comisión Federal de Comunicaciones (FCC) ha tomado medidas decisivas para combatir el uso indebido de la inteligencia artificial (IA) en las llamadas de voz, declarando ilegal el uso de voces generadas por IA para llamadas automáticas en Estados Unidos. Impulsada por la preocupación por la proliferación de prácticas engañosas, esta medida regulatoria representa un paso significativo para proteger a los consumidores de las comunicaciones fraudulentas.

Medidas enérgicas de la FCC contra las estafas de voz

Bajo el auspicio de la Ley de Protección al Consumidor Telefónico (TCPA), la FCC aprobó por unanimidad un Dictamen Declaratorio el 8 de febrero, que categoriza las llamadas de voz generadas por IA como "artificiales" y, por lo tanto, sujetas al mismo marco regulatorio que las llamadas automáticas tradicionales. Este dictamen faculta a los fiscales generales estatales para procesar a quienes empleen voces generadas por IA con fines maliciosos, reforzando así las medidas existentes para frenar las prácticas de telemarketing no solicitadas y engañosas.

Explotación maliciosa de tecnologías de IA

El motivo de la prohibición de la FCC proviene de casos alarmantes de llamadas de voz generadas por IA que se utilizan con fines maliciosos, incluido undent reciente en New Hampshire, dondedentrecibieron mensajes fraudulentos haciéndose pasar por eldent estadounidense Joe Biden. Estas tácticas engañosas no solo explotan a personas vulnerables, sino que también representan una amenaza significativa para la integridad de los procesos electorales y la seguridad personal.

La presidenta de la FCC, Jessica Rosenworcel, subrayó la urgencia de abordar este problema, haciendo hincapié en el uso de la tecnología de IA para difundir información falsa y perpetrar estafas. La sofisticación de las voces generadas por IA les permite imitar convincentemente a figuras públicas y manipular a destinatarios desprevenidos, lo que requiere medidas regulatorias sólidas para contrarrestar su uso indebido.

El asistente autónomo de OpenAI y las preocupaciones sobre la privacidad

En paralelo, OpenAI está desarrollando un asistente de IA autónomo que revolucionará las interacciones entre usuarios y dispositivos mediante la ejecución directa de tareas. Aprovechando los avances en sistemas de IA generativa, como ChatGPT, esta innovación representa un avance significativo en el ámbito de los asistentes virtuales, superando potencialmente a las plataformas existentes en términos de autonomía y funcionalidad.

Sin embargo, la llegada de asistentes autónomos de IA plantea inquietudes legítimas en cuanto a la privacidad y la seguridad. Si bien promete mayor eficiencia y comodidad, otorgar a los sistemas de IA amplios privilegios de dispositivo conlleva riesgos inherentes, como el acceso no autorizado a datos y la vulnerabilidad a ciberamenazas. Dado que OpenAI mantiene el hermetismo sobre el proyecto, el alcance total de sus implicaciones y las estrategias para mitigar los riesgos asociados siguen siendo especulativas.

La colaboración de Microsoft con Sarvam AI para fomentar la innovación en IA en India

Microsoft ha iniciado una colaboración estratégica con la startup india Sarvam AI para impulsar la innovación en IA en India, especialmente en el ámbito del procesamiento del lenguaje natural. Gracias a esta colaboración, el avanzado modelo de lenguaje extenso (LLM) Indic Voice de Sarvam se integrará en la infraestructura de IA de Azure de Microsoft, lo que facilitará el desarrollo de soluciones de IA localizadas y adaptadas a la diversidad lingüística de India.

Esta iniciativa se alinea con el compromiso de Microsoft de impulsar el crecimiento y la accesibilidad impulsados ​​por la IA, y refleja su visión de empoderar a la India para que se convierta en una nación que prioriza la IA. Al aprovechar la experiencia de Sarvam en el procesamiento del lenguaje índico, Microsoft busca democratizar la tecnología de IA y promover la transformación digital inclusiva en diversos sectores.