OpenAI tuvo que bloquear más de 250.000 solicitudes de imágenes de candidatos presidenciales de EE. UU. en ChatGPT

OpenAI ha confirmado que su popular herramienta de IA, ChatGPT, bloqueó una impactante cantidad de más de 250.000 solicitudes para generar imágenes de los principales candidatos presidenciales de EE. UU. de 2024.

Los usuarios intentaron una y otra vez hacer que ChatGPT generara imágenes del presidente electo Donald Trump, la vicepresidenta Kamala Harris, el presidente actual Joe Biden, el gobernador de Minnesota Tim Walz y el vicepresidente electo JD Vance.

Pero OpenAI dijo un rotundo «¡No!» a cada una de estas solicitudes. Esto es presuntamente sobre prevenir que ChatGPT se convierta en una pieza en un juego de alto riesgo de desinformación.

Con la elección de EE. UU. a la vista, OpenAI quería que ChatGPT se mantuviera alejado de la interferencia electoral. Los deepfakes políticos, las noticias falsas generadas por IA y las mentiras descaradas se propagan como fuego. Clarify, una empresa de aprendizaje automático, informa que el contenido deepfake solo ha aumentado un 900% este año.

Y la inteligencia de EE. UU. dice que parte de esto tiene vínculos con agentes rusos que intentan controlar la política estadounidense.

La gran batalla de OpenAI contra la desinformación

En un informe de octubre, OpenAI expuso lo mal que han puesto las cosas. Han estado rastreando operaciones turbias en todo el mundo: exactamente 20 de ellas, todas intentando explotar herramientas de IA para manipular la mente de las personas en línea. Algunas estaban generando artículos de sitios web con IA.

Otros tenían cuentas falsas en redes sociales publicando propaganda. Pero el equipo de OpenAI afirma que lograron cerrar estas redes antes de que se volvieran virales.

Y aún así, eso no es suficiente para complacer a todos. Algunos legisladores, vigilantes tecnológicos y escépticos están levantando banderas rojas sobre los peligros de permitir que ChatGPT se mueva libremente durante la temporada electoral. Los chatbots de IA pueden ser impresionantes, sin duda, pero aún se sabe que escupen información cuestionable de vez en cuando.

«Los votantes no deben buscar información sobre el voto o las elecciones en los chatbots de IA, ya que existen demasiadas preocupaciones sobre la precisión y la exhaustividad», afirmó Alexandra Reeve Givens, directora ejecutiva del Centro para la Democracia y la Tecnología, en un comunicado la semana pasada.

Además, la fiscal general de Nueva York, Letitia James, emitió una advertencia el viernes pasado después de que su oficina realizara pruebas en varios chatbots impulsados por IA. Su equipo les hizo algunas preguntas relacionadas con las elecciones y no le gustaron las respuestas obtenidas. Una gran cantidad de desinformación.

«Los neoyorquinos que confían en los chatbots, en lugar de en las fuentes oficiales del gobierno, para responder sus preguntas sobre el voto corren el riesgo de ser desinformados e incluso podrían perder su oportunidad de votar debido a la información inexacta», declaró la oficina de la fiscal general.

OpenAI ha añadido desde entonces una función en ChatGPT que insta a los usuarios que buscan resultados electorales a acudir a fuentes de noticias de confianza como Associated Press y Reuters. La función, introducida el 5 de noviembre, es un suave recordatorio para evitar utilizar respuestas generadas por IA para algo tan importante como los datos electorales.

La IA pasa a primer plano en medio de las elecciones globales

Este año, las campañas políticas de todo el mundo podrían afectar a más de 4.000 millones de personas en más de 40 países. Con tanto en juego, el riesgo de que la desinformación alimentada por la IA se extienda a través de las fronteras es un asunto de gran importancia.

Una vez más, el informe de Clarity sobre el aumento del 900 % en el contenido de deepfake está alterando los ánimos. El hecho de que algunos de estos vídeos de deepfake estén vinculados a campañas de influencia respaldadas por Rusia solo añade urgencia.

Un estudio de julio del Centro para la Democracia y la Tecnología añade otra capa de preocupación. Probó consultas relacionadas con las elecciones en chatbots de IA de grandes empresas: Mistral, Google, OpenAI, Anthropic y Meta. De las 77 preguntas relacionadas con las elecciones, más de una tercera parte recibió respuestas inexactas o engañosas. No es bueno.

Un portavoz de Anthropic, que desarrolla el chatbot Claude, dejó claro: «Para información específica sobre elecciones y votación, dirigimos a los usuarios a fuentes autorizadas, ya que Claude no se entrena con suficiente frecuencia para proporcionar información en tiempo real sobre elecciones específicas».

La dupla Trump-Musk y la nueva realidad de Silicon Valley

Mientras OpenAI lidia con la desinformación, Silicon Valley en su conjunto se prepara para una revisión de su relación con Washington. El regreso del presidente electo Donald Trump a la Casa Blanca trae grandes promesas: planea desmantelar muchas de las políticas tecnológicas de su predecesor, incluida la reciente orden ejecutiva de la administración Biden sobre la seguridad de la IA.

Esta orden introdujo directrices de seguridad y privacidad para los desarrolladores de IA, con el objetivo de establecer algunas barreras básicas. Impulsó la financiación de la investigación de IA y buscó que el Instituto Nacional de Estándares y Tecnología participara más en la fijación de estándares de IA. Trump ha calificado esta política de «peligrosa» y de barrera para la innovación, comprometiéndose a reemplazarla con lo que él llama «desarrollo de IA basado en la libertad de expresión».

Se espera que Elon Musk, quien invirtió más de 130 millones de dólares en campañas a favor de Trump e incluso hizo campaña en su nombre en Pensilvania, sea uno de los mayores aliados tecnológicos de Trump. Con la influencia de Musk y su control de X (anteriormente Twitter), tiene una línea directa para amplificar mensajes políticos a millones de personas.

Por no mencionar que Musk tiene mucho en juego: Tesla y SpaceX podrían beneficiarse de las políticas de Trump, especialmente si la nueva administración favorece una menor supervisión.

Mientras algunos magnates tecnológicos, como Jeff Bezos de Amazon, han tenido choques abiertos con Trump, otros han encontrado formas de mantenerse en sus buenos términos. Mark Zuckerberg, de Meta, por ejemplo, supuestamente elogió la reacción de Trump ante un reciente intento de asesinato, calificándola de «genial».

Y Facebook no se detuvo ahí: también eliminó algunas de las medidas contra la desinformación de la plataforma. Y Bezos, propietario de The Washington Post, supuestamente bloqueó un editorial que habría respaldado a la vicepresidenta Kamala Harris en las semanas previas a las elecciones.

El impacto del segundo mandato de Trump en Silicon Valley también dependerá de quién controle el Congreso. Con los republicanos habiendo asegurado el Senado, el camino está ahora más despejado para que Trump impulse su agenda tecnológica y confirme a sus nominados con menos fricción.