La palabra del año del Diccionario Cambridge, «Alucinar», destaca el gran problema de la IA

En un cambio notable en el panorama de la inteligencia artificial (IA), el Diccionario Cambridge ha elegido «alucinar» como su Palabra del Año. Esta selección refleja un avance significativo en la comprensión de este término en el campo de la IA. Si bien tradicionalmente se asociaba con la percepción de fenómenos inexistentes, «alucinar» ahora abarca casos en los que los sistemas de IA presentan erróneamente datos inexactos como si fueran factuales, lo que a veces conlleva consecuencias adversas.

Imprecisiones de la IA en plataformas importantes

Plataformas tecnológicas prominentes como Gizmodo, CNET y Microsoft han sido objeto de escrutinio por inexactitudes en artículos producidos por IA. Esto genera inquietud sobre la fiabilidad del contenido generado por sistemas basados ​​en IA. En un caso particularmente alarmante, un profesional del derecho perdió su trabajo cuando un chatbot basado en IA, ChatGPT, creó demandas ficticias como referencias. A principios de este año, analistas de Morgan Stanley señalaron la propensión de ChatGPT a inventar hechos, un problema que, según predicen, persistirá durante años. Estosdenthan alertado a líderes empresariales y expertos en desinformación sobre el potencial de la IA para amplificar la desinformación en línea.

La importancia del pensamiento crítico

Wendalyn Nichols, directora editorial del Cambridge Dictionary, ha destacado el papel crucial del pensamiento crítico humano al utilizar herramientas de IA. Destaca que el hecho de que las IA puedan "alucinar" sirve como recordatorio de que los humanos deben ejercitar su pensamiento crítico al utilizar estas herramientas. Esto subraya la necesidad de que los usuarios aborden el contenido generado por IA con criterio.

Reconocimiento de la industria de la IA

El término «alucinación» ha cobrado relevancia en los debates dentro de la industria de la IA desde el lanzamiento de ChatGPT, la revolucionaria tecnología de chatbot de OpenAI, en abril de 2023. El director ejecutivo de Alphabet Inc., Sundar Pichai, reconoció que la industria de la IA se enfrenta a problemas de alucinación para los que no existe una solución inmediata y definitiva. Esta afirmación de una figura destacada del mundo tecnológico subraya la gravedad del problema.

La contribución de Vectara a la IA responsable

En un paso significativo hacia la autorregulación y la promoción de una IA responsable, Vectara, desarrollador de Modelos de Lenguaje Largo (LLM), presentó su Modelo de Evaluación de Alucinaciones de código abierto en noviembre de 2023. Este innovador modelo evalúa en qué medida un LLM se desvía de la información factual. Al cuantificar estas desviaciones, Vectara busca abordar los obstáculos que impiden la adopción generalizada de la IA en las empresas y mitigar los riesgos asociados a la desinformación.

La elección de «alucinación» como Palabra del Año por el Diccionario Cambridge arroja luz sobre un problema crítico en la industria de la IA. Las imprecisiones y la posibilidad de que la IA genere información falsa han suscitado preocupación entre los expertos y el público. Mientras la industria de la IA lidia con estos «problemas de alucinación», la necesidad de un desarrollo responsable de la IA y un pensamiento crítico y vigilante al utilizar herramientas de IA nunca ha sido más evidente. El Modelo de Evaluación de Alucinaciones de Vectara representa un avance significativo para abordar estos desafíos y garantizar que la IA sea una fuerza positiva en lugar de amplificar la desinformación en la era digital.