La Inteligencia Artificial se está utilizando para manipular elecciones, OpenAI eleva la alarma
- OpenAI declaró en su último informe que su chatbot se ha convertido en un medio principal para crear desinformación antes de las elecciones nacionales.
- OpenAI enfatiza la necesidad de implementar medidas de seguridad sólidas y marcos regulatorios robustos para frenar las campañas de manipulación electoral patrocinadas por estados impulsadas por IA.
- Hasta la fecha, el contenido generado por IA no ha sido lo suficientemente convincente como para influir en las opiniones políticas.
El informe de OpenAI declaró que sus modelos se están utilizando para influir en las elecciones. También declaró que había eliminado más de 20 operaciones que dependían de su modelo de IA para llevar a cabo dichas actividades maliciosas.
El informe de OpenAI informe, «Una actualización sobre la interrupción de usos engañosos de la IA», también enfatizó la necesidad de vigilancia al interactuar con contenido político.
El documento mostró una tendencia con los modelos de OpenAI convirtiéndose en una herramienta principal para interrumpir elecciones y difundir desinformación política. Los actores maliciosos, que a menudo están patrocinados por estados, utilizan estos modelos de IA para diversas actividades, incluida la generación de contenido para personas falsas en redes sociales y la ingeniería inversa de malware.
La creciente influencia de OpenAI en las elecciones y la política de IA
A finales de agosto, OpenAI interrumpió una campaña iraní que estaba produciendo contenido de redes sociales para influir en las opiniones en las elecciones de EE. UU., la política venezolana, el conflicto de Gaza e Israel. Informó que algunas cuentas, que posteriormente fueron prohibidas, también publicaban sobre las elecciones de Ruanda.
También encontró que una empresa israelí también estaba involucrada en intentar manipular los resultados de las encuestas en la India.
Sin embargo, OpenAI señaló que estas actividades no se han viralizado ni han cultivado audiencias sustanciales. Las publicaciones en redes sociales relacionadas con estas campañas obtuvieron una tracción mínima. Esto podría indicar la dificultad de influir en la opinión pública a través de campañas de desinformación impulsadas por IA.
Históricamente, las campañas políticas suelen estar impulsadas por la desinformación de los lados en disputa. Sin embargo, la llegada de la IA presenta una amenaza diferente para la integridad de los sistemas políticos. El Foro Económico Mundial (WEF) declaró que 2024 es un año histórico para las elecciones, con 50 países celebrando elecciones.
Los LLM en uso cotidiano ya tienen la capacidad de crear y difundir desinformación más rápido y de manera más convincente.
Regulación y esfuerzos colaborativos
En respuesta a esta posible amenaza, OpenAI dijo que está trabajando con las partes interesadas relevantes compartiendo inteligencia sobre amenazas. Espera que este enfoque colaborativo sea suficiente para vigilar los canales de desinformación y fomentar el uso ético de la IA, especialmente en contextos políticos.
OpenAI informa: «A pesar de la falta de participación significativa de la audiencia resultante de esta operación, tomamos en serio cualquier esfuerzo por utilizar nuestros servicios en operaciones de influencia extranjera.»
La firma de IA también enfatizó que se deben construir defensas de seguridad robustas para prevenir a los ciberatacantes patrocinados por estados, que utilizan la IA para crear campañas en línea engañosas y disruptivas.
El WEF también ha destacado la necesidad de establecer regulaciones de IA, diciendo: «Los acuerdos internacionales sobre estándares interoperables y requisitos regulatorios básicos desempeñarán un papel importante en habilitar la innovación y mejorar la seguridad de la IA.»
Desarrollar marcos efectivos requiere asociaciones estratégicas entre empresas tecnológicas como OpenAI, el sector público y las partes interesadas privadas, lo que ayudará a implementar sistemas de IA éticos.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
