¿Es abrir el código de los modelos de lenguaje grandes una buena manera de fomentar la innovación?

Resumen TL;DR

• Geoffrey Hinton, el padrino de la IA, expresa preocupaciones sobre el código de los modelos de IA de código abierto, advirtiendo sobre riesgos aumentados y mal uso.
• Hinton sugiere un desarrollo controlado liderado por grandes empresas para garantizar el uso responsable de la IA.
• Los defensores de los LLM de código abierto argumentan que las restricciones limitan la creatividad y la innovación.

Geoffrey Hinton, una figura renombrada en el campo de la inteligencia artificial (IA) y a menudo referido como el "padrino de la IA", ha expresado preocupaciones sobre los riesgos potenciales asociados con la apertura del código detrás de los modelos de IA, particularmente los modelos de lenguaje grandes (LLM). Hinton, conocido por sus contribuciones innovadoras a las redes neuronales, cree que hacer que dicho código esté disponible gratuitamente en línea podría tener efectos perjudiciales y aumentar los peligros asociados con la IA.

La postura de Hinton proviene de su creencia de que la tecnología detrás de la IA, particularmente los LLM, tiene el potencial de ser mal utilizada y explotada si cae en manos equivocadas. Los modelos de lenguaje grandes, como el GPT-3 de OpenAI, están diseñados para generar texto similar al humano y poseen una capacidad inmensa para aprender de grandes cantidades de datos. Han demostrado capacidades impresionantes en varias aplicaciones, incluyendo traducción de idiomas, generación de contenido e incluso autocompletado de código.

El lado oscuro de los LLM

Geoffrey Hinton expresó recientemente sus preocupaciones sobre el movimiento de código abierto que rodea a los modelos de lenguaje grandes (LLM) y sus desafíos potenciales. Después de dejar recientemente su puesto en Google para expresar libremente sus opiniones sobre el desarrollo de la IA, Hinton cree que confinar los LLM a los laboratorios de empresas como OpenAI podría resultar beneficioso. Sugiere que un enfoque de desarrollo controlado, con unas pocas grandes empresas de diferentes países tomando la delantera, permitiría el desarrollo simultáneo de la tecnología y el establecimiento de métodos para garantizar su uso responsable. 

Hinton enfatizó que la IA de código abierto aumenta el riesgo de permitir que individuos con intenciones maliciosas utilicen la tecnología de maneras dañinas e impredecibles.

Hinton también cree que el punto en el que la IA superinteligente supera la inteligencia humana no está muy lejos, mencionando que ve signos de inteligencia en modelos como GPT-4. Revisó su estimación anterior de que estaría a 50-100 años de distancia, considerando ahora que es más probable que ocurra dentro de los próximos cinco a 20 años.

Cómo los LLM de código abierto impulsan el éxito empresarial

Los modelos de lenguaje grandes (LLM) de código abierto se han vuelto cada vez más abundantes en línea, ofreciendo acceso a potentes capacidades de IA. Junto con esta tendencia, los proveedores de software están aprovechando la creciente demanda de las empresas por LLM personalizables e instalables que pueden entrenarse con datos propietarios. Un lanzamiento notable en este espacio fue Dolly 2.0 de Databricks, aclamado como el primer LLM de código abierto que sigue instrucciones y está explícitamente diseñado para uso comercial. Con funcionalidades similares a ChatGPT, Dolly 2.0 permite a las organizaciones ejecutar el modelo en su propia infraestructura, lo que habilita un mayor control y flexibilidad.

Mitigar los peligros de la IA, la iniciativa de alerta temprana de DeepMind

DeepMind, el laboratorio de IA bajo el antiguo empleador de Hinton, Google, anunció el desarrollo de un sistema de alerta temprana diseñado para identificar posibles riesgos asociados con la IA. Este sistema tiene como objetivo abordar las preocupaciones planteadas por Hinton y mejorar la capacidad de detectar y mitigar cualquier peligro potencial que surja de las tecnologías de IA. La iniciativa demuestra los esfuerzos continuos dentro de la industria para gestionar proactivamente los riesgos y garantizar el desarrollo y despliegue responsables de la IA.

La postura de los defensores de los LLM de código abierto

Los defensores de los LLM de código abierto argumentan que tienen el potencial de democratizar el acceso a sistemas de IA como ChatGPT, fomentando la innovación al reducir las barreras de entrada para la experimentación. Creen que, al hacer estas tecnologías disponibles abiertamente, una comunidad más amplia de individuos puede contribuir a los avances en el campo. Hay un número significativo de entusiastas interesados en explorar e innovar con la IA, y los defensores de los modelos de código abierto lo ven como crucial para empoderar a estos individuos y aprovechar su potencial colectivo.