Los chatbots de IA difunden desinformación electoral, revela un estudio
- El estudio revela que los chatbots de IA difunden desinformación sobre las elecciones de 2024 y exhorta a la supervisión regulatoria.
- Las empresas tecnológicas se comprometen a corregir la desinformación de la IA ante la preocupación pública y el escrutinio del sector.
- Llamamientos urgentes a la regulación mientras las inexactitudes de la IA amenazan la integridad electoral y la confianza pública.
Una investigación reciente ha descubierto una tendencia preocupante de chatbots de IA que difunden información falsa y engañosa sobre las elecciones de 2024. Este hallazgo proviene de un estudio colaborativo realizado por los Proyectos de Democracia de IA y Proof News, una organización mediática sin fines de lucro. Los resultados destacan la necesidad urgente de supervisión regulatoria mientras la IA sigue desempeñando un papel significativo en el discurso político.
Desinformación en un momento crítico
El estudio señala que estas inexactitudes generadas por IA están surgiendo durante el período crucial de las primarias presidenciales en Estados Unidos. Con un número creciente de personas que recurren a la IA para obtener información relacionada con las elecciones, la propagación de datos incorrectos es particularmente preocupante. La investigación probó varios modelos de IA, incluidos ChatGPT-4 de OpenAI, Llama 2 de Meta, Claude de Anthropic, Gemini de Google y Mixtral de Mistral, una empresa francesa. Se descubrió que estas plataformas proporcionaban a los votantes ubicaciones de votación incorrectas, métodos de votación ilegales, fechas límite de registro falsas, entre otra desinformación.
Un ejemplo alarmante citado fue la afirmación de Llama 2 de que los votantes de California podían emitir sus votos mediante mensaje de texto, un método que es ilegal en Estados Unidos. Además, ninguno de los modelos de IA probados identificó correctamente la prohibición de usar ropa con logotipos de campañas, como gorras MAGA, en las mesas electorales de Texas. Esta amplia difusión de información falsa tiene el potencial de engañar a los votantes y socavar el proceso electoral.
Respuesta del sector y preocupación pública
La propagación de desinformación por parte de la IA ha generado una respuesta tanto de la industria tecnológica como del público. Algunas empresas tecnológicas han reconocido los errores y se han comprometido a corregirlos. Por ejemplo, Anthropic planea lanzar una versión actualizada de su herramienta de IA con información electoral precisa. OpenAI también expresó su intención de refinar continuamente su enfoque según las formas evolutivas en que se utilizan sus herramientas. Sin embargo, la respuesta de Meta, que calificó los hallazgos como "sin sentido", ha provocado controversia y planteado dudas sobre el compromiso de la industria tecnológica para frenar la desinformación.
La preocupación pública también está creciendo. Una encuesta del Centro AP-NORC para la Investigación de Asuntos Públicos y la Escuela de Política Pública Harris de la Universidad de Chicago revela un amplio temor a que las herramientas de IA contribuyan a la propagación de información falsa y engañosa durante el año electoral. Esta preocupación se ve amplificada por incidentes recientes, como la generación de imágenes históricamente inexactas y racialmente insensibles por parte de la IA Gemini de Google.
La llamada a la regulación y la responsabilidad
Los hallazgos del estudio subrayan la necesidad urgente de acción legislativa para regular el uso de la IA en contextos políticos. Actualmente, la falta de leyes específicas que rijan la IA en la política deja a las empresas tecnológicas a su propia regulación, una situación que ha provocado importantes fallos en la precisión de la información. Aproximadamente dos semanas antes de la publicación del estudio, las empresas tecnológicas acordaron voluntariamente adoptar precauciones para evitar que sus herramientas generen contenido realista que desinforme a los votantes sobre los procedimientos legales de votación. Sin embargo, los recientes errores y falsedades han puesto en duda la eficacia de estas medidas voluntarias.
A medida que la IA continúa integrándose en todos los aspectos de la vida cotidiana, incluido el ámbito político, se hace cada vez más evidente la necesidad de regulaciones integrales y aplicables. Estas regulaciones deben garantizar que el contenido generado por la IA sea preciso, especialmente cuando se trata de procesos democráticos críticos como las elecciones. Solo mediante una combinación de responsabilidad empresarial y supervisión regulatoria se podrá restaurar y mantener la confianza del público en la IA como fuente de información.
El reciente estudio sobre los chatbots de IA que difunden mentas electorales sirve como una llamada de atención a los peligros potenciales de la IA sin regulación en el ámbito político. A medida que las empresas tecnológicas trabajan para abordar estos problemas, no se puede subestimar el papel de la supervisión gubernamental. Garantizar la integridad de la información relacionada con las elecciones es primordial para defender los valores y procesos democráticos.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asume responsabilidad alguna por ninguna inversión realizada basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
