El cofundador de Hugging Face, Wolf, duda de las capacidades científicas de la IA

La gente está inclinada a prestar atención cuando el cofundador de Hugging Face, una startup de inteligencia artificial valorada en 4.500 millones de dólares, comparte sus pensamientos sobre la dirección de la ciencia. Thomas Wolf, sin embargo, no está de acuerdo con los evangelistas.

Más bien, ha planteado preguntas sobre si los sistemas de IA que se están desarrollando hoy traerían los avances científicos significativos que algunos de sus defensores prefieren pensar.

El gurú de Hugging Face explica por qué los chatbots no son perfectos

Los comentarios lo llevaron a ir en contra de otras figuras prominentes de la industria de la IA, con Dario Amodei de Anthropic y Sam Altman de OpenAI afirmando que un cambio notable y significativo está más cerca que antes. En un blog, Amodei sugirió que la IA tiene la posibilidad de comprimir siglos de datos biológicos en un estudio de 10 años.

Wolf no está convencido de que la IA sea significativa y, según él, los avances científicos deben ser del tipo de innovaciones que hacen que nuestra comprensión del mundo sea mucho más fácil. Argumenta que los modelos de IA de hoy no están a la par con Copérnico, quien sugirió que el sol, y no la tierra, era el centro del sistema solar.

Wolf aclaró los dos problemas, comenzando con ChatGPT y sistemas similares que tienden a alinearse con la persona que los usa.

“Cuando haces una pregunta, la IA que estás usando te halaga describiéndola como interesante o importante, y este tipo de halagos, por muy bueno que sea, generalmente no conduce a una revolución del pensamiento científico.”

Wolf.

En segundo lugar, la siguiente palabra en una secuencia es lo que estos modelos de lenguaje masivos están siendo entrenados para adivinar y anticipar, y producen intencionalmente resultados predichos en lugar de los inesperados.

Por otro lado, los científicos de cambios de paradigma serios rara vez eligen la ruta más fácil. “El científico no está tratando de predecir la siguiente palabra más probable. Está tratando de predecir esta cosa muy novedosa que es sorprendentemente improbable, pero que en realidad es verdadera”, dijo Wolf.

El cofundador de Hugging Face ha estado pensando en este tema durante los últimos meses. Su interés se despertó después de leer un ensayo escrito por Amodei de Anthropic, quien postuló que “la biología y la medicina habilitadas por la IA nos permitirán comprimir el progreso que los biólogos humanos habrían logrado en los próximos 50-100 años en 5-10 años.”

Las startups persiguen sus objetivos

Wolf reconoce que ha estado pensando en el tema durante meses y se ha vuelto menos convencido a medida que daba vueltas a las predicciones de Amodei en su mente. Ve una realidad más humilde, donde la IA podría ser una herramienta de apoyo en lugar de un cambio radical.

AlphaFold, un sistema de IA desarrollado por DeepMind de Google que mapeó estructuras de proteínas y creó nuevas vías para el descubrimiento de medicamentos, causó revuelo.

Según Wolf, la IA es solo un acto de apoyo aunque sea súper avanzada, y facilitan una navegación más rápida de materiales, pero no pueden reemplazar los saltos creativos extraños que definen los descubrimientos de calibre Nobel.

Todo este discurso de Wolf no ha desalentado a las nuevas empresas de entrar en la escena, y algunas organizaciones como FutureHouse y Lila Sciences han prometido aplicar la IA en sus procesos de innovación. Sin embargo, sigue siendo un período de observación de cuántos cumplirán esas promesas.

Los pensamientos y opiniones negativas de Wolf son un buen contrapeso para aquellos que solo disparan predicciones positivas en la industria.

Según él, la IA tiene la capacidad de revolucionar el trabajo de laboratorio y impulsar pequeños pasos hacia adelante, pero cuando se trata de reescribir las reglas del conocimiento en sí, cree que la carga aún recae en los hombros humanos.

Un artículo reciente de Cryptopolitan también muestra cómo Silicon Valley cree firmemente que la IA puede ayudar a los humanos con el don de la casi inmortalidad, haciendo que los humanos vivan hasta los 200 años.