Escasez de datos en la industria de la IA

A medida que la industria de la inteligencia artificial (IA) sigue aumentando en popularidad, ha surgido un desafío inminente: la escasez de datos de entrenamiento de alta calidad. Esta escasez amenaza con obstaculizar el crecimiento de los modelos de IA, en particular los modelos de lenguaje grandes, y podría alterar potencialmente la trayectoria de la revolución de la IA. Este artículo explora por qué la disminución de los recursos de datos es motivo de preocupación y esboza posibles soluciones para abordar este problema.

Los datos de alta calidad son la sangre vital de los algoritmos de IA, contribuyendo a su precisión, rendimiento y calidad general. Por ejemplo, ChatGPT, un modelo de lenguaje prominente, fue entrenado con una asombrosa cantidad de 570 gigabytes de datos de texto, equivalente a aproximadamente 300 mil millones de palabras. De manera similar, el algoritmo de difusión estable, que impulsa aplicaciones de generación de imágenes por IA como DALL-E, Lensa y Midjourney, se basó en el conjunto de datos LIAON-5B, que contiene 5.800 millones de pares de imagen-texto. La falta de datos adecuados puede provocar inexactitudes y resultados de baja calidad.

Además, la calidad de los datos de entrenamiento juega un papel fundamental. Los datos de baja calidad, como publicaciones en redes sociales o imágenes borrosas, están fácilmente disponibles pero son insuficientes para entrenar modelos de IA de alto rendimiento. El texto extraído de plataformas de redes sociales puede estar contaminado por sesgos, prejuicios, desinformación o contenido ilegal, que los modelos de IA pueden replicar inadvertidamente. Por ejemplo, el intento de Microsoft de entrenar un bot de IA utilizando contenido de Twitter resultó en que este producía salidas racistas y misóginas. 

Para mitigar estos riesgos, los desarrolladores de IA buscan contenido de alta calidad de fuentes como libros, artículos en línea, artículos científicos, Wikipedia y contenido web cuidadosamente filtrado. Incluso fuentes inusuales, como novelas románticas del sitio de autopublicación Smashwords, se han utilizado para mejorar la IA conversacional como Google Assistant.

Oferta de datos frente a la demanda de IA

Si bien la industria de la IA ha escalado continuamente el tamaño de los conjuntos de datos utilizados para el entrenamiento, la disponibilidad de datos en línea está creciendo a un ritmo más lento. Investigaciones recientes sugieren que, al ritmo actual de entrenamiento de IA, los datos de texto de alta calidad podrían agotarse antes de 2026. Los datos de lenguaje de baja calidad podrían agotarse entre 2030 y 2050, y los datos de imagen de baja calidad entre 2030 y 2060. Estas proyecciones plantean preocupaciones sobre el posible cuello de botella en el desarrollo de la IA.

Las apuestas son altas en el mundo de la IA, con PwC estimando que la IA podría contribuir con hasta 15.700 millones de dólares estadounidenses a la economía global para 2030. Sin embargo, la inminente escasez de datos amenaza con ralentizar el desarrollo de la industria y la realización de su potencial.

Mejora de la eficiencia de los datos: Los desarrolladores de IA pueden mejorar los algoritmos para hacer un uso más eficiente de los datos existentes. En los próximos años, podrían lograr sistemas de IA de alto rendimiento con menos datos y menor potencia computacional. Este enfoque no solo aliviaría la escasez de datos, sino que también contribuiría a reducir la huella ambiental de la IA.

Generación de datos sintéticos: Otra solución es el uso de la IA para crear datos sintéticos adaptados para entrenar modelos de IA específicos. Los proyectos ya están utilizando contenido sintético de servicios generadores de datos como Mostly AI, y este enfoque probablemente se vuelva más común en el futuro.

Exploración de fuentes de datos no libres: Los desarrolladores están explorando cada vez más contenido más allá de los recursos disponibles gratuitamente en línea. Los datos valiosos en poder de grandes editoriales y repositorios offline, incluidos millones de textos publicados antes de la era de Internet, podrían servir como nuevas fuentes para proyectos de IA. Los recientes movimientos de empresas como News Corp para negociar acuerdos de contenido con desarrolladores de IA, donde las empresas de IA pagan por los datos de entrenamiento, podrían ayudar a garantizar una compensación justa para los creadores de contenido y abordar el desequilibrio de poder.

La dependencia de la industria de la IA en datos de entrenamiento de alta calidad es evidente, y la posible escasez de dichos datos podría plantear desafíos para su crecimiento continuo. Si bien existen preocupaciones, la situación puede no ser tan grave como parece. Los desarrolladores de IA tienen vías para mejorar la eficiencia de los datos, crear datos sintéticos y explorar fuentes de datos no libres. Estas estrategias, junto con la evolución continua de las tecnologías de IA, ofrecen esperanza para mitigar los riesgos asociados con la escasez de datos. A medida que se desarrolla la revolución de la IA, la adaptabilidad y la innovación serán clave para navegar este desafío emergente y garantizar la contribución continua de la IA a la economía global.