La IA podría ser un amplificador de la desinformación, dice la Secretaria de Estado de Arizona

Según la Secretaria de Estado de Arizona, Adrian Fontes, la inteligencia artificial (IA) podría ser un “amplificador” de la desinformación antes de las próximas elecciones estadounidenses. Fontes expresó sus temores el domingo en el programa Meet the Press de NBC.

La declaración de Fontes llegó después de la publicación del presidente Biden en X (anteriormente Twitter) de que “la IA y las empresas que trabajan en la tecnología van a transformar el mundo, pero primero, deben ganarse nuestra confianza.” El presidente dijo que está comprometido a hacer todo lo posible para promover una innovación segura y responsable. Instó a las empresas a unirse a ese compromiso.

La desinformación por IA es un amplificador

Fontes recordó sus sesiones de entrenamiento en el Cuerpo de Marines. Dijo que, en los campamentos de reclutamiento y otros entrenamientos militares, tenían que evaluar las armas de sus enemigos. Dijo que tenían que entrenar tanto como pudieran contra las armas enemigas.

También lea: Microsoft advierte de campañas de desinformación impulsadas por IA en las próximas elecciones

El Secretario comparó la IA con las armas y dijo que la IA no es un arma; más bien, es un amplificador y un magnificador de la mala y la desinformación. 

“Lo que quería hacer era asegurarme de que nuestros funcionarios electorales estuvieran familiarizados con ello, que tuviéramos procesos para lidiar con ello y abordarlo dentro de cada uno de nuestros condados, porque nuestras elecciones se gestionan a nivel de condado, también.”

Adrian Fontes

“También realizamos un ejercicio de mesa redonda entre varios funcionarios electorales para los medios para que nuestros socios de los medios pudieran saber cómo reaccionar ante ello y reconocerlo”, añadió.

La IA no fue la única parte; el Secretario, al mencionar el terrorismo doméstico, dijo que “el terrorismo se define como una amenaza o violencia para un resultado político. Eso es lo que esto es.”

La llamada “falsa” de Joe Biden afirma la desinformación por IA

Las posibles amenazas de la IA a las elecciones no son nuevas. A principios de enero de este año, una llamada robótica falsa con la voz del presidente estadounidense Joe Biden fue un tema candente en programas de televisión y artículos de noticias. La llamada falsa fue cuidadosamente adaptada, comenzando con la frase “Qué tonterías”, un término que Biden había utilizado anteriormente. 

Después de este toque de personalidad, la llamada continuó diciendo:

“Votar este martes solo permite a los republicanos en su búsqueda de elegir a Donald Trump nuevamente. Su voto marca la diferencia en noviembre, no este martes.”

Fue un intento claro de disuadir a los votantes de acudir a las urnas ese día en particular. La llamada robótica volvió a circular hace dos días cuando el consultor político Steven Kramer, responsable de la llamada, fue multado con 6 millones de dólares y 24 cargos penales en total.

La multa impuesta a Kramer fue la primera por delitos relacionados con la IA generativa, dijo la Comisión Federal de Comunicaciones. La comisión también propuso una multa de 2 millones de dólares para Lingo Telecom, acusada de transmitir las llamadas robóticas.

Mientras Lingo Telecom dijo que no estuvo involucrada en la producción de estas llamadas, las acciones que tomó fueron de acuerdo con los estándares de la industria y las regulaciones federales. Sin embargo, la parte preocupante es que las llamadas aparecieron desde el número personal de Kathy Sullivan, una ex presidenta del Partido Demócrata estatal. 

Sullivan escribió en un correo electrónico el jueves que “hay un precio elevado por intentar manipular una elección”, según la Associated Press .

Las campañas de desinformación son más asequibles

La IA ha hecho que el fraude sea más barato y asequible para quienes quieren practicarlo. Kramer, que posee una empresa especializada en proyectos de movilización de votantes, dijo que pagó 500 dólares para enviar las llamadas a los votantes para llamar su atención sobre el “problema de la IA”. Anteriormente le dijo a la AP que pagó 150 dólares a un mago para crear la grabación.

También lea: Warren Buffett advierte que los estafas con IA se convertirán en una industria de crecimiento

Wired informó el año pasado que construir una campaña de desinformación con IA cuesta solo 400 dólares. Informó sobre un desarrollador que utilizó herramientas de IA comunes para generar tuits y artículos anti-Rusia, pero el proyecto tenía como objetivo destacar lo barato y fácil que podía hacerse.

Según el medio de noticias, la persona que se hace llamar Nea Paw diseñó la campaña para educar a las personas sobre los peligros de la IA y la desinformación. Paw dijo en un correo electrónico:

“No creo que haya una bala de plata para esto, de la misma manera que no hay una bala de plata para los ataques de phishing, el spam o la ingeniería social.”

Los investigadores de la desinformación dicen que la IA podría utilizarse para crear campañas altamente personalizadas para impulsar la desinformación y para gestionar cuentas de redes sociales. El punto a tener en cuenta es que Facebook e Instagram bloquearon recientemente miles de cuentas que de alguna manera estaban conectadas a las redes a menudo asociadas con el mecanismo de comunicación del Partido Comunista de China.

Los investigadores dicen que las cuentas falsas ahora están utilizando métodos más sofisticados para ejecutar sus campañas de desinformación, ya que ahora utilizan métodos orgánicos para aumentar su alcance y parecer auténticas. No hay que olvidar las palabras del legendario inversor Warren Buffett, quien dijo que el fraude con IA podría ser la “industria de más rápido crecimiento de todos los tiempos”. 

El fraude y la desinformación electoral tienen conexiones en que ambos se utilizan para engañar a las personas. Como dice Buffett: “Tiene un enorme potencial para el bien y un enorme potencial para el daño, y simplemente no sé cómo se desarrollará eso.”

Reportaje de Cryptopolitan por Aamir Sheikh