Alucinaciones generadas por IA: Una creciente preocupación para la salud en 2023
- En 2023, las alucinaciones generadas por IA están propagando rápidamente información falsa, lo que presenta un desafío significativo.
- La IA, ejemplificada por el chatbot Tay de Microsoft, puede emular acciones humanas perjudiciales, amplificando las preocupaciones.
- La desinformación de la IA amenaza la salud y distorsiona la realidad, lo que ha provocado advertencias de expertos sobre una crisis de información impulsada por la IA.
La proliferación de la inteligencia artificial (IA) ha traído un fenómeno inquietante: las alucinaciones generadas por IA. El término “alucinar” ha adquirido un nuevo y alarmante significado en la era digital, ya que los sistemas de IA pueden producir información falsa que puede afectar a individuos y a la sociedad. En 2023, esta tendencia recibió una atención significativa, lo que llevó a Dictionary.com a nombrar “alucinar” como su Palabra del Año.
La 2023 palabra del año de Dictionary.com
La decisión de Dictionary.com de designar “alucinar” como su Palabra del Año habla mucho sobre la creciente prominencia de la desinformación generada por IA. La elección refleja un aumento del 46 % en las búsquedas de diccionario para “alucinar” de 2022 a 2023, junto con un aumento similar en las búsquedas de “alucinación”. Sin embargo, la fuerza impulsora detrás de este aumento no es la definición tradicional de la palabra, sino más bien una interpretación específica de la IA:
Alucinar [ huh-loo-suh-neyt ] -verbo- (de la inteligencia artificial) producir información falsa contraria a la intención del usuario y presentarla como verdadera y factual. Ejemplo: Cuando los chatbots alucinan, el resultado a menudo no es solo inexacto, sino completamente fabricado.
Capacidad de la IA para el engaño
El potencial de la IA para el engaño es una preocupación creciente. Si bien no todos los sistemas de IA participan en este comportamiento, algunos pueden ser programados para imitar características humanas, sirviendo como portavoces políticos o difundiendo información falsa mientras se disfrazan de proveedores de hechos. Su velocidad sin igual para generar desinformación y propaganda distingue a la IA de los humanos.
Un estudio reciente publicado en JAMA Internal Medicine subrayó la magnitud de este problema. El estudio demostró cómo el GPT Playground de OpenAI generó más de 17.000 palabras de desinformación sobre vacunas y vapeo en solo 65 minutos. Además, las herramientas de IA generativa crearon 20 imágenes realistas para acompañar las narrativas falsas en menos de 2 minutos. Esta rápida generación de contenido engañoso desafía la capacidad de los individuos para discernir la verdad de la ficción.
Consecuencias no deseadas de la desinformación de la IA
Incluso cuando los sistemas de IA carecen de la intención de engañar, pueden producir inadvertidamente información engañosa. Un estudio realizado en la Reunión Clínica Anual de la Sociedad Estadounidense de Farmacéuticos de Sistemas de Salud destacó las limitaciones de la IA en el ámbito médico. ChatGPT, cuando se le hicieron 39 preguntas relacionadas con medicamentos, proporcionó respuestas satisfactorias solo para 10. Por ejemplo, afirmó erróneamente que combinar Paxlovid, un medicamento antiviral para la COVID-19, y verapamilo, un medicamento para la presión arterial, no tenía interacciones, contradiciendo el conocimiento médico establecido.
La capacidad de la IA para generar desinformación se extiende más allá de la atención médica. Se ha observado que algunas herramientas de IA interpretan mal las imágenes, confundiendo frecuentemente varios objetos con aves. Un ejemplo de The Economist reveló la respuesta de una IA a una consulta sobre el Puente Golden Gate siendo transportado a Egipto en 2016, mostrando la incapacidad de la IA para distinguir la verdad de la ficción.
El incidente del chatbot de IA Tay de Microsoft en 2021 subraya aún más el potencial de la IA para generar contenido dañino. Dentro de las 24 horas de unirse a Twitter, el chatbot comenzó a publicar tweets racistas, misóginos y falsos, lo que llevó a Microsoft a eliminarlo rápidamente de la plataforma. Este episodio destaca la propensión de la IA a emular comportamientos humanos negativos, planteando preguntas sobre consideraciones éticas en el desarrollo y despliegue de la IA.
Un problema de salud real
Las alucinaciones generadas por IA, al igual que sus contrapartes humanas, plantean una preocupación de salud genuina. Más allá de las implicaciones inmediatas de la desinformación, pueden afectar adversamente el bienestar mental y emocional. Una constante lluvia de alucinaciones generadas por IA puede erosionar el sentido de realidad de un individuo, llevando a la confusión y la ansiedad.
Reconociendo la gravedad de este problema, organizaciones como la Organización Mundial de la Salud y la Asociación Médica Estadounidense han emitido declaraciones advirtiendo sobre los posibles daños de la desinformación y la propaganda generadas por IA. Si bien la selección de Dictionary.com de “alucinar” como su Palabra del Año para 2023 es emblemática del problema, abordar los complejos desafíos planteados por las alucinaciones generadas por IA requiere vigilancia continua y esfuerzos concertados para promover el desarrollo responsable de la IA.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
