La palabra del año de Cambridge Dictionary, «Hallucinate», destaca el gran problema de la IA

En un cambio notable dentro del panorama de la inteligencia artificial (IA), Cambridge Dictionary ha elegido «hallucinate» (alucinar) como su Palabra del Año. Esta selección refleja un desarrollo significativo en la comprensión de este término dentro del campo de la IA. Aunque tradicionalmente se asocia con la percepción de fenómenos inexistentes, «hallucinate» ahora abarca instancias en las que los sistemas de IA presentan erróneamente datos inexactos como hechos, a veces con consecuencias adversas.

Inexactitudes de la IA en plataformas destacadas

Plataformas tecnológicas prominentes como Gizmodo, CNET y Microsoft han sido objeto de escrutinio por inexactitudes en artículos producidos por IA. Esto plantea preocupaciones sobre la fiabilidad del contenido generado por sistemas impulsados por IA. En un caso particularmente alarmante, un profesional legal perdió su empleo cuando un chatbot basado en IA, ChatGPT, creó demandas ficticias como referencias. A principios de este año, analistas de Morgan Stanley señalaron la tendencia de ChatGPT a fabricar hechos, un problema que predicen que persistirá durante los próximos años. Estos incidentes han levantado banderas rojas entre los líderes empresariales y expertos en desinformación sobre el potencial de la IA para amplificar la desinformación en línea.

La importancia del pensamiento crítico

Wendalyn Nichols, directora de publicación de Cambridge Dictionary, ha enfatizado el papel crucial del pensamiento crítico humano al utilizar herramientas de IA. Destaca que el hecho de que las IA puedan «alucinar» sirve como recordatorio de que los humanos deben ejercer sus habilidades de pensamiento crítico al confiar en estas herramientas. Esto subraya la necesidad de los usuarios de abordar el contenido generado por IA con un ojo crítico.

Reconocimiento de la industria de la IA

El término «hallucinate» ha ganado prominencia en las discusiones dentro de la industria de la IA desde el lanzamiento de la tecnología de chatbot revolucionaria de OpenAI, ChatGPT, en abril de 2023. Sundar Pichai, director ejecutivo de Alphabet Inc., reconoció que la industria de la IA está lidiando con «problemas de alucinación» para los cuales no existe una solución inmediata y clara. Este reconocimiento de una figura líder en el mundo tecnológico subraya la gravedad del problema.

La contribución de Vectara a una IA responsable

En un paso significativo hacia la autorregulación y la promoción de una IA responsable, el constructor de Modelos de Lenguaje Grande (LLM) Vectara introdujo su Modelo de Evaluación de Alucinaciones de código abierto en noviembre de 2023. Este modelo innovador evalúa cuánto se desvía un LLM de la información factual. Al cuantificar estas desviaciones, Vectara tiene como objetivo abordar los obstáculos para la adopción generalizada de la IA en las empresas y mitigar los riesgos asociados con la desinformación.

La selección de «hallucinate» como la Palabra del Año por Cambridge Dictionary arroja luz sobre un problema crítico dentro de la industria de la IA. Las inexactitudes y el potencial de la IA para generar información falsa han planteado preocupaciones entre expertos y el público. A medida que la industria de la IA lidia con estos «problemas de alucinación», la necesidad de un desarrollo de IA responsable y un pensamiento crítico vigilante al utilizar herramientas de IA nunca ha sido más evidente. El Modelo de Evaluación de Alucinaciones de Vectara representa un paso significativo hacia la resolución de estos desafíos y asegura que la IA sirva como una fuerza para el bien en lugar de amplificar la desinformación en la era digital.