Mientras Estados Unidos se prepara para otras eleccionesdent, la preocupación por la propagación de desinformación política ha llevado a la empresa de inteligencia artificial Midjourney a considerar la prohibición de imágenes de políticos de alto perfil como Joe Biden y Donald Trump. Esta decisión se produce trasdentrelacionados con la creación de imágenes falsas y deepfakes, lo que alerta sobre la posibilidad de que dicho contenido influya en la opinión pública y los resultados electorales.
Respuesta a las amenazas de desinformación
Midjourney, conocida por su herramienta de generación de imágenes con IA, se ha visto en el centro de debates sobre el uso de la tecnología para manipular el discurso público. Informes indican que la compañía está considerando prohibir la creación y difusión de imágenes que representen a figuras políticas, en particular aquellas con potencial para engañar o difundir información falsa. Esta medida se considera una medida proactiva para mitigar el riesgo de que el contenido generado por IA se utilice como arma para obtener rédito político o sembrar discordia durante el periodo electoral.
Declaración del CEO de Midjourney y políticas de la plataforma
David Holz, director ejecutivo de Midjourney, supuestamente comunicó las intenciones de la compañía durante una sesión de chat en Discord, reconociendo el atractivo de crear imágenes con personalidades prominentes como Trump, pero enfatizando la importancia de actuar con cautela, especialmente en el clima político actual. Si bien Midjourney ya cuenta con políticas para prevenir la creación de contenido engañoso, incluyendo restricciones a las imágenes de figuras y eventos públicos, la posible prohibición de imágenes políticas representa una postura más firme en la lucha contra la desinformación.
Desafíos y limitaciones
A pesar de los esfuerzos por regular el uso de sus herramientas de IA, Midjourney enfrenta desafíos para frenar eficazmente la proliferación de imágenes falsas y deepfakes. La investigación de Bloomberg reveló que, si bien la compañía ha implementado normas para prevenir la creación de contenido engañoso, persisten lagunas legales que permiten que imágenes modificadas eludan ciertas restricciones. Además, la eficacia de prohibir imágenes políticas específicas sigue siendo incierta, ya que podría no abordar el problema subyacente de las campañas de desinformación impulsadas por IA y su posible impacto en la integridad electoral.
Esfuerzos de toda la industria para combatir la desinformación
Las deliberaciones de Midjourney coinciden con iniciativas más amplias dentro de la industria tecnológica para combatir la desinformación política. Plataformas como ChatGPT y Meta están explorando estrategias para etiquetar o detectar contenido generado por IA, con el objetivo de proporcionar a los usuarios herramientas paradentcontenido potencialmente engañoso. Sin embargo, si bien estas medidas pueden ayudar adentcontenido manipulado, es posible que no aborden por completo los complejos desafíos que plantea el uso indebido de la tecnología de IA para moldear el discurso público e influir en las elecciones.
