El chatbot de Microsoft genera preocupaciones sobre la precisión de la información electoral
Educación
- En un estudio, el chatbot de Microsoft, impulsado por GPT-4, proporcionó información electoral inexacta, lo que ha generado preocupaciones sobre el impacto de la IA en la democracia.
- Los errores incluyeron detalles falsos sobre los candidatos, escándalos fabricados y la atribución de desinformación a fuentes confiables.
- A pesar del compromiso de Microsoft de solucionar estos problemas, se insta a los usuarios a actuar con cautela, destacando la necesidad de cambios estructurales en los sistemas de IA.
Microsoft, como actor principal en la industria tecnológica, ha estado activamente involucrado en abordar estas preocupaciones. La empresa ha tomado medidas para combatir la desinformación y mejorar la integridad de las plataformas digitales. Las iniciativas de Microsoft incluyen el desarrollo y despliegue de herramientas y tecnologías de IA avanzadas para detectar y mitigar la propagación de información engañosa o falsa.
Un estudio revela alarmantes inexactitudes en el chatbot de Microsoft
Un estudio reciente realizado por las ONG europeas Algorithm Watch y AI Forensics ha arrojado luz sobre los posibles riesgos asociados con el chatbot de Microsoft, impulsado por GPT-4 de OpenAI. El estudio se centró en las respuestas del chatbot a preguntas relacionadas con las elecciones en Alemania y Suiza. Los hallazgos revelaron que el chatbot proporcionó respuestas incorrectas a un tercio de las preguntas planteadas.
Mientras que las preocupaciones a menudo se centran en actores malintencionados que difunden intencionalmente desinformación, el estudio enfatiza que los chatbots de propósito general pueden representar una amenaza igual para el ecosistema de información. Salvatore Romano, investigador senior en AI Forensics, señaló: “Nuestra investigación muestra que los actores malintencionados no son la única fuente de desinformación; los chatbots de propósito general pueden ser igual de amenazantes para el ecosistema de información.”
El chatbot de Microsoft: Una fuente de errores factuales engañosos
Los errores identificados en el estudio variaron desde fechas electorales incorrectas e información desactualizada de candidatos hasta controversias completamente fabricadas alrededor de los candidatos. Notablemente, el chatbot atribuyó información falsa a fuentes reputadas que en realidad poseían información precisa sobre los temas. También se encontró que el chatbot de IA inventaba historias sobre candidatos que participaban en comportamientos escandalosos, contribuyendo aún más a la propagación de información engañosa.
Al ser informado de los resultados del estudio, Microsoft expresó su compromiso de abordar los problemas planteados. Sin embargo, las muestras posteriores recopiladas un mes después arrojaron resultados similares, lo que indica desafíos persistentes para garantizar la precisión de la información proporcionada por el chatbot. La oficina de prensa de Microsoft no proporcionó un comentario para este artículo, pero un portavoz de la empresa informó a The Wall Street Journal que se estaban realizando esfuerzos para preparar sus herramientas para las elecciones de 2024.
La llamada a cambios estructurales
Riccardo Angius, líder de Matemáticas Aplicadas e investigador en AI Forensics, desafió la caracterización de las inexactitudes como meras ‘alucinaciones’, afirmando: “Es hora de desacreditar el referirse a estos errores como ‘alucinaciones’. Nuestra investigación expone la ocurrencia mucho más intrincada y estructural de errores factuales engañosos en LLMs y chatbots de propósito general.”
La garantía de Microsoft y la precaución del usuario
Si bien Microsoft reconoce la necesidad de abordar los problemas identificados, se insta a los usuarios a ejercer su “mejor juicio” al revisar los resultados generados por el chatbot de IA. El gigante tecnológico enfatiza sus esfuerzos continuos para mejorar el rendimiento de sus herramientas para las próximas elecciones de 2024. Sin embargo, el estudio subraya la importancia de un escrutinio vigilante por parte del usuario frente a la posible desinformación.
El mundo entra en un período crítico de toma de decisiones democráticas, la intersección de la IA generativa y las elecciones plantea preocupaciones vitales. El chatbot de Microsoft, un actor prominente en este panorama, enfrenta escrutinio por su papel en la difusión de información inexacta. Las revelaciones del estudio provocan una reevaluación de cómo las tecnologías de IA se integran en los procesos democráticos, enfatizando la necesidad de mejoras continuas para garantizar la integridad de la información relacionada con las elecciones.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso legal. La información proporcionada no constituye asesoramiento de trading. Cryptopolitan.com no asume responsabilidad alguna por ninguna inversión realizada basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar investigaciones independientes y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Brian Koome
Brian Koome cuenta con más de siete años de experiencia en la cobertura de blockchain y criptomonedas, habiendo estado activo en el sector desde 2017. Ha colaborado con publicaciones líderes, entre ellas BlockToday.com. Además, desarrolló el curso Ethereum 101 para BitDegree.org antes de unirse a Cryptopolitan como escritor a tiempo completo. Brian cubre guías perennes (EGs), análisis profundos, entrevistas y análisis de precios. Su enfoque en DeFi, innovación en blockchain y proyectos emergentes de criptomonedas deleita a los lectores.
