La industria de la Inteligencia Artificial enfrenta críticas por revelar apresuradamente herramientas de IA imperfectas

En una carrera por dominar el campo emergente de la inteligencia artificial generativa, gigantes tecnológicos como Google, OpenAI y Amazon han estado lanzando rápidamente nuevos productos de IA, a menudo con resultados decepcionantes. 

Los recientes desvelos públicos de estas herramientas de IA han destacado defectos significativos, incluida la generación de información falsa e inexactitudes factuales. La prisa por comercializar estas innovaciones ha generado preocupaciones entre expertos y reguladores sobre los riesgos potenciales asociados con la tecnología no probada.

Google presentó su chatbot Bard, diseñado para resumir contenido de Gmail y Google Docs, pero los usuarios descubrieron rápidamente que fabricaba correos electrónicos que nunca se enviaron. OpenAI mostró su generador de imágenes Dall-E 3, pero los usuarios de redes sociales señalaron que las imágenes en las demostraciones oficiales no cumplían con los detalles solicitados. Amazon anunció un modo conversacional para Alexa, que falló durante una demostración para The Washington Post, incluso recomendando un museo en la ubicación incorrecta.

Esta oleada de lanzamientos defectuosos subraya la frenética carrera de la industria tecnológica para aprovechar la tecnología de IA generativa, donde las máquinas pueden producir texto similar al humano e imágenes realistas. Esta prisa, impulsada por el miedo a perderse algo (FOMO), tiene como objetivo atraer a más usuarios para generar los datos necesarios para mejorar estas herramientas de IA. Sin embargo, expertos y ejecutivos tecnológicos han emitido advertencias contra el despliegue prematuro de IA no probada.

La industria reconoce las imperfecciones pero sigue adelante

Las empresas tecnológicas mantienen que han comunicado la naturaleza experimental de sus productos de IA y han implementado salvaguardas para prevenir salidas ofensivas o sesgadas. Algunos argumentan que exponer a las personas a las herramientas de IA ahora permite una mejor comprensión de los riesgos asociados antes de que la tecnología se vuelva más poderosa. A pesar de estas garantías, el lanzamiento rápido y defectuoso contradice los llamamientos a la cautela, especialmente considerando el potencial de la IA para introducir sesgos e incluso superar la inteligencia humana.

Cabe destacar que las preocupaciones sobre la IA han atraído la atención de la regulación. En Estados Unidos, el Congreso ha celebrado audiencias y propuesto proyectos de ley para regular la IA, aunque las acciones concretas siguen siendo limitadas. La semana pasada, ejecutivos tecnológicos, incluidos Elon Musk y Mark Zuckerberg, respondieron a preguntas de legisladores que están considerando legislación para gobernar la tecnología. En Europa, los legisladores están avanzando en regulaciones para prohibir ciertos usos de la IA, como predecir el comportamiento criminal, y establecer normas estrictas para la industria. En el Reino Unido, la cooperación global en la regulación de la IA está en la agenda de una cumbre importante en noviembre.

El ministro de Finanzas británico, Jeremy Hunt, enfatizó la importancia de encontrar un equilibrio entre la regulación y la innovación. Reconoció que la tensión competitiva impulsa los avances tecnológicos, pero subrayó la necesidad de un marco regulatorio que fomente la innovación mientras asegura las salvaguardas necesarias.

Los desafíos persisten en el desarrollo de IA

La última generación de herramientas de IA, ejemplificada por ChatGPT de OpenAI, ha ganado amplia atención por sus capacidades. Estos sistemas de IA, alimentados por vastos conjuntos de datos de Internet, pueden responder preguntas complejas, aprobar exámenes profesionales y mantener conversaciones similares a las humanas. Sin embargo, persisten los desafíos.

Los chatbots generan frecuentemente información falsa y la presentan como factual, un fenómeno conocido como «alucinación». Los generadores de imágenes están mejorando rápidamente, pero persisten las preocupaciones sobre su potencial para crear propaganda y desinformación, especialmente a medida que Estados Unidos se acerca a sus elecciones de 2024. Además, el uso de material con derechos de autor para entrenar modelos de IA ha desencadenado disputas legales, con autores renombrados demandando recientemente a OpenAI por usar su trabajo en su entrenamiento de IA.