Los peligros de depender de la Inteligencia Artificial: Un cuento de advertencia

En el ámbito de los contratiempos de la vida, hay errores menores de la Inteligencia Artificial, y luego están los errores imperdonables. La reciente renuncia del diputado y presidente de la Cámara de los Comunes, Anthony Rota, sirve como un recordatorio contundente de lo segundo. La partida de Rota llegó en medio de una tremenda presión, y la razón detrás de esto dejó a toda la nación de Canadá y a la comunidad internacional en shock.

Los peligros de confiar ciegamente en la IA

Anthony Rota había invitado a un veterano de la Segunda Guerra Mundial a un evento parlamentario, solo para descubrir más tarde que este veterano había sido miembro de una unidad militar que luchó junto a los nazis. La sorpresa llegó cuando todo el Parlamento canadiense, ignorante de esta sombría historia, aplaudió al veterano. Este evento se ha convertido ahora en una fuente de vergüenza internacional para Canadá, provocando la indignación de varias facciones políticas, incluidos los diputados liberales, la oposición y el NDP.

Las preguntas que permanecen incluyen si las acciones de Rota fueron una grave negligencia, un resultado de la ignorancia o una jugada política mal calculada que salió mal. Independientemente de las razones subyacentes, una cosa queda clara: una parte significativa de este desastre se puede atribuir a una falta fundamental de verificación, un fallo en hacer las preguntas básicas sobre quién era esta persona y qué implicaba su historia. En el ámbito de la información útil, determinar si alguien tenía afiliaciones con los nazis es sin duda primordial.

A medida que diseccionamos este incidente, es difícil no reflexionar sobre el panorama en evolución de la difusión de la información, que presenta su propio conjunto de desafíos. Con la llegada de la inteligencia artificial (IA), ahora tenemos acceso a lo que parece ser una fuente de información confiable, pero las apariencias pueden ser engañosas. La IA se está infiltrando rápidamente en varias facetas de nuestras vidas, desde la investigación hasta la creación de hojas de cálculo y presentaciones. En este contexto, la importancia de la verificación de la información no puede ser exagerada, a menos que nos encontremos atrapados en vergüenzas menores o mayores.

La preocupación principal surge de la tendencia creciente de implementar herramientas que analizan datos o proporcionan información basada en indicaciones. Los gigantes de la tecnología, incluidos Microsoft, Google, Meta (anteriormente Facebook) y Amazon, están realizando inversiones significativas en IA. OpenAI, el creador de ChatGPT, una de las tecnologías de IA más renombradas, ha obtenido una financiación sustancial, particularmente de Microsoft, que está integrando asistentes de IA en sus productos principales, incluida la onipresente suite de software Office.

Sin embargo, el nombre "inteligencia artificial" puede ser engañoso. En su núcleo, la IA contemporánea se basa en modelos de lenguaje grandes (LLM). Estos LLM sobresalen en el reconocimiento de patrones en el lenguaje, extrayendo del vasto conjunto de contenido disponible en línea. En consecuencia, cuando le pides a un asistente de IA que genere un itinerario de viaje o elabore una presentación, puede realizar estas tareas de manera notable. Esencialmente, agrega y sintetiza el contenido en línea en respuestas coherentes.

Sin embargo, hay una limitación crítica de la IA: no posee una verdadera comprensión. En cambio, opera recopilando información y reconociendo cómo podría parecer una respuesta correcta. Esta limitación inherente es la razón por la cual los asistentes de IA a menudo proporcionan información incorrecta. Por ejemplo, pueden ofrecer explicaciones matemáticas erróneas o devolver datos desactualizados.

La falta de fiabilidad de la IA se vuelve aún más preocupante a medida que se vuelve cada vez más pervasiva. El reciente anuncio de Microsoft de Copilot, un asistente de IA para Windows y Office, es un testimonio de esta tendencia. Si bien Copilot puede ser inmensamente útil en tareas como cálculos de hojas de cálculo y diseño de diapositivas, depender de él para la recuperación de información, como analizar datos de ventas o incorporar datos web en presentaciones, puede llevar a situaciones precarias.

En resumen, la IA es inherentemente poco fiable y propensa a inexactitudes. La dependencia excesiva de la IA para tareas que impactan a otros y están remuneradas monetariamente conlleva un alto riesgo de vergüenza y error.

IA en el lugar de trabajo: Una espada de doble filo

En la literatura, el concepto del narrador no confiable es un tropo comúnmente utilizado: un personaje cuya narrativa no puede ser confiable por varias razones. Como educador, a menudo instruyo a mis estudiantes de que, aunque pueda ser frustrante, la lectura crítica es esencial. Confiar ciegamente en una voz autoritaria no es un enfoque prudente.

Este principio se aplica por igual a la IA. Las consecuencias prácticas de las inexactitudes, sesgos y lapsos de juicio de la IA son tangibles y de gran alcance. Mientras la sociedad lidia con cómo responder a este nuevo panorama tecnológico, el consejo para los individuos es claro y directo:

Reescribe y amplía: La situación con la IA es muy similar a lidiar con narradores no confiables en la literatura. Sin embargo, las consecuencias en el mundo real de las falsedades, errores y lapsos de juicio de la IA son muy reales.

En esta era de rápida evolución de la IA, la vigilancia, el pensamiento crítico y la dependencia cautelosa de la tecnología son primordiales. El atractivo de la IA como fuente de información rápida y eficiente no debe eclipsar la importancia de verificar y cotejar la información. En la búsqueda de precisión y confiabilidad, debemos recordar que la IA, aunque poderosa, no es infalible.