Meta lanza herramientas de IA, incluida una que verifica la precisión de otros modelos de IA

Meta Platforms lanzó el viernes una serie de nuevos productos de IA, incluido un "Evaluador Autodidacta" capaz de verificar la precisión de otros modelos de IA. Por lo tanto, se informa que el modelo puede ofrecer menos participación humana en el proceso de desarrollo de los modelos de IA.

La empresa matriz de Facebook e Instagram anunció el viernes que estaba lanzando los nuevos modelos de IA tras presentar la herramienta en un artículo de agosto que explicaba en detalle cómo se basa en la misma técnica de "cadena de pensamiento" utilizada por sus pares. OpenAI, creadora de ChatGPT, lanzó recientemente los modelos 01.

Se espera que esto permita al modelo de IA realizar juicios confiables sobre las respuestas de los modelos.

Meta quiere abordar los desafíos de las inexactitudes

Según un artículo de Reuters, el modelo puede verificar y mejorar la precisión de las respuestas a problemas difíciles, como los de materias como ciencias, matemáticas y programación, ya que implica descomponer problemas complejos en pasos lógicos más pequeños.

Meta ha revelado que sus intenciones incluyen abordar los desafíos experimentados con otros modelos de IA como ChatGPT, además de las críticas por respuestas desactualizadas e inexactas.

Los investigadores de Meta reportedly utilizaron datos generados completamente por IA para entrenar el modelo evaluador, eliminando la entrada humana en esa etapa.

Dos de los investigadores de Meta dijeron a Reuters que la capacidad de utilizar la IA para evaluar de manera confiable a otras IA ofrece una visión de una posible vía hacia la construcción de sistemas autónomos que puedan aprender de sus propios errores.

"Esperamos que, a medida que la IA se vuelva cada vez más superhumana, mejore cada vez más en la verificación de su trabajo, de modo que sea realmente mejor que el humano promedio." Investigador Jason Weston.

"La idea de ser autodidacta y capaz de autoevaluarse es básicamente crucial para la idea de alcanzar este tipo de nivel superhumano de IA", añadió.

Meta avanza hacia la IA autónoma

Según los investigadores, las partes interesadas en la industria de la IA ven a estos agentes como asistentes digitales lo suficientemente inteligentes como para realizar una variedad de tareas sin intervención humana.

Los investigadores sostienen que los modelos de mejora continua podrían eliminar la necesidad de un proceso a menudo costoso e ineficiente utilizado hoy en día llamado Aprendizaje por Refuerzo a partir de la Retroalimentación Humana (RLHF). Esto requiere la entrada de anotadores humanos que deben tener experiencia especializada para etiquetar los datos con precisión y verificar que las respuestas a consultas complejas de matemáticas y escritura sean correctas.

Pares de la industria como Google y Anthropic también han publicado artículos de investigación sobre el concepto de RLAIF, o Aprendizaje por Refuerzo a partir de la Retroalimentación de la IA.

Sin embargo, a diferencia de Meta, estas otras empresas tienden a no liberar sus modelos para uso público.

Los expertos en la industria de la IA han opinado que el uso de la IA para verificar la IA es significativo para construir aplicaciones de IA autónomas que puedan operar sin intervención humana. Esto significa que, eventualmente, los modelos de IA aprenderán de sus propios errores, se autocorregirán y mejorarán sin ninguna entrada humana.

El gigante de las redes sociales también lanzó otras herramientas, incluida una actualización de su Modelo de Identificación de Imágenes Segment Anything (SAM), una herramienta que acelera los tiempos de generación de respuestas de los LLM y conjuntos de datos que pueden utilizarse para ayudar en el descubrimiento de nuevos materiales inorgánicos.