OpenAI ha confirmado que su popular herramienta de inteligencia artificial, ChatGPT, bloqueó más de 250.000 solicitudes para generar imágenes de los principales candidatosdentde Estados Unidos en 2024.
Los usuarios intentaron, una y otra vez, que ChatGPT creara imágenes deldentelecto Donald Trump, ladent Kamala Harris, el actualdent Joe Biden, el gobernador de Minnesota Tim Walz y el vicepresidentedentJD Vance.
Pero OpenAI respondió con un rotundo "¡No!" a todas estas solicitudes. Supuestamente, busca evitar que ChatGPT se convierta en un peón en un juego de desinformación de alto riesgo.
Con las elecciones estadounidenses a la vuelta de la esquina, OpenAI quería que ChatGPT evitara cualquier interferencia electoral. Deepfakes políticos, noticias falsas generadas por IA y mentiras descaradas se propagaron rápidamente en línea. Clarity, una empresa de aprendizaje automático, informa que el contenido deepfake se ha disparado un 900 % este año.
Y la inteligencia estadounidense dice que algunas de estas cosas tienen vínculos con agentes rusos que intentan controlar la política estadounidense.
La gran batalla de OpenAI contra la desinformación
En un informe de octubre, OpenAI expuso la gravedad de la situación. Han estado tracoperaciones sospechosas en todo el mundo —20 para ser exactos—, todas intentando explotar herramientas de IA para manipular la mente de las personas en línea. Algunas publicaban artículos generados por IA en sus sitios web.
Otros tenían cuentas falsas en redes sociales que publicaban propaganda. Pero el equipo de OpenAI afirma que lograron desactivar estas redes antes de que se viralizaran.
Y, sin embargo, eso no es suficiente para contentar a todos. Algunos legisladores, organismos de control tecnológico y escépticos están alertando sobre los peligros de permitir que ChatGPT siga funcionando libremente durante la temporada electoral. Los chatbots de IA pueden ser impresionantes, sí, pero aún son conocidos por revelar información cuestionable de vez en cuando.
“Los votantes categóricamente no deberían recurrir a los chatbots de IA para obtener información sobre la votación o las elecciones; hay demasiadas preocupaciones sobre la precisión y la integridad”, dijo Alexandra Reeve Givens, directora ejecutiva del Centro para la Democracia y la Tecnología, en una declaración la semana pasada.
Además, la fiscal general de Nueva York, Letitia James, emitió una advertencia el viernes pasado después de que su oficina realizara pruebas con varios chatbots basados en IA. Su equipo les planteó algunas preguntas relacionadas con las elecciones y no les gustaron las respuestas obtenidas. Desinformación a raudales.
“Los neoyorquinos que confían en los chatbots, en lugar de fuentes gubernamentales oficiales, para responder sus preguntas sobre la votación corren el riesgo de estar mal informados e incluso podrían perder su oportunidad de votar debido a la información inexacta”, declaró la oficina del fiscal general.
OpenAI ha añadido una función en ChatGPT que insta a los usuarios que buscan resultados electorales a consultar fuentes de noticias fiables como Associated Press y Reuters. Esta función, introducida el 5 de noviembre, es un pequeño empujón para evitar el uso de respuestas generadas por IA para algo tan importante como los datos electorales.
La IA toma protagonismo en medio de las elecciones mundiales
Este año, las campañas políticas en todo el mundo podrían impactar a más de 4 mil millones de personas en más de 40 países. Con tanto en juego, el riesgo de que la desinformación impulsada por la IA se propague a través de las fronteras es un grave problema.
Una vez más, el informe de Clarity sobre el aumento del 900% del contenido deepfake genera inquietud. El hecho de que algunos de estos vídeos deepfake estén vinculados a campañas de influencia respaldadas por Rusia no hace más que acentuar la urgencia.
Un estudio realizado en julio por el Centro para la Democracia y la Tecnología añade otra capa de preocupación. Se probaron consultas relacionadas con las elecciones en chatbots de IA de importantes empresas: Mistral, Google, OpenAI, Anthropic y Meta. De las 77 preguntas relacionadas con las elecciones, más de un tercio recibió respuestas inexactas o engañosas. Mala suerte.
Un portavoz de Anthropic, fabricante del chatbot Claude, lo dejó claro: “Para obtener información específica sobre elecciones y votaciones, dirigimos a los usuarios a fuentes confiables, ya que Claude no recibe capacitación con la suficiente frecuencia para brindar información en tiempo real sobre elecciones específicas”
El dúo Trump-Musk y la nueva realidad de Silicon Valley
Y mientras OpenAI lidia con la desinformación, Silicon Valley en su conjunto se prepara para una reestructuración de su relación con Washington. El regreso deldentelecto Donald Trump a la Casa Blanca trae grandes promesas: planea desmantelar muchas de las políticas tecnológicas de su predecesor, incluyendo la reciente orden ejecutiva de la administración Biden sobre la seguridad de la IA.
Esta orden introdujo directrices de seguridad y privacidad para los desarrolladores de IA, con el objetivo de establecer unas medidas de seguridad básicas. Impulsó la financiación de la investigación en IA y buscó una mayor participación del Instituto Nacional de Estándares y Tecnología en el establecimiento de estándares de IA. Trump ha calificado la política de "peligrosa" y un obstáculo para la innovación, prometiendo sustituirla por lo que él llama "desarrollo de IA basado en la libertad de expresión"
Se espera que Elon Musk, quien invirtió más de 130 millones de dólares en campañas a favor de Trump e incluso realizó mitines a su favor en Pensilvania, sea uno de los mayores aliados tecnológicos de Trump. Con su influencia y su control de X (anteriormente Twitter), tiene una línea directa para difundir mensajes políticos a millones de personas.
Sin mencionar que Musk tiene algo en juego: Tesla y SpaceX podrían beneficiarse de las políticas de Trump, especialmente si la nueva administración favorece una menor supervisión.
Mientras que algunos magnates tecnológicos, como Jeff Bezos de Amazon, se han enfrentado abiertamente con Trump, otros han encontrado la manera de congraciarse con él. Mark Zuckerberg de Meta, por ejemplo, supuestamente elogió la reacción de Trump ante un reciente intento de asesinato, calificándola de "increíble"
Y Facebook no se detuvo ahí: también eliminó algunas de las medidas antidesinformación de la plataforma. Y Bezos, dueño de The Washington Post, aparentemente bloqueó un editorial que habría respaldado a ladent Kamala Harris en las semanas previas a las elecciones.
El impacto del segundo mandato de Trump en Silicon Valley también dependerá de quién controle el Congreso. Con los republicanos afianzando el Senado, el camino está ahora más despejado para que Trump impulse su agenda tecnológica y confirme a sus candidatos con menos fricción.
