Le co-fondateur de Hugging Face, Wolf, doute des capacités scientifiques de l’IA

Les gens ont tendance à prêter attention lorsque le co-fondateur de Hugging Face, une startup d’intelligence artificielle évaluée à 4,5 milliards de dollars, partage ses réflexions sur la direction de la science. Thomas Wolf, cependant, n’est pas d’accord avec les évangélistes.

Au lieu de cela, il a soulevé des questions sur le fait que les systèmes d’IA développés aujourd’hui apporteraient les avancées scientifiques significatives que certains de leurs partisans préfèrent imaginer.

Le guru de Hugging Face explique pourquoi les chatbots ne sont pas parfaits

Les commentaires l’ont amené à aller à l’encontre d’autres figures importantes de l’industrie de l’IA, avec Dario Amodei d’Anthropic et Sam Altman d’OpenAI qui affirment qu’un changement notable et significatif est plus proche qu’auparavant. Dans un blog, Amodei a suggéré que l’IA a la possibilité de compresser des siècles de données biologiques en une étude de 10 ans.

Wolf n’est pas convaincu que l’IA sera significative et, selon lui, les percées scientifiques doivent être du genre d’innovations qui rendent notre compréhension du monde beaucoup plus facile. Il fait valoir que les modèles d’IA d’aujourd’hui ne sont pas à la hauteur de Copernic qui a suggéré que le soleil et non la terre était le centre du système solaire.

Wolf a clarifié les deux problèmes, en commençant par ChatGPT et les systèmes similaires qui ont tendance à s’aligner sur la personne qui les utilise.

« Lorsque vous posez une question, l’IA que vous utilisez vous flatte en la décrivant comme intéressante ou importante, et ce type de battage, aussi bénéfique soit-il, ne conduit généralement pas à une révolution de la pensée scientifique. »

Loup.

Deuxièmement, le mot suivant dans une séquence est ce que ces modèles de langage massifs sont entraînés à deviner et anticiper, et ils produisent intentionnellement des résultats prédits plutôt que des résultats inattendus.

D’un autre côté, les scientifiques qui opèrent un changement de paradigme sérieux choisissent rarement la voie la plus facile. « Le scientifique n’essaie pas de prédire le mot le plus probable suivant. Il essaie de prédire cette chose très nouvelle qui est en réalité surprenamment improbable, mais qui est pourtant vraie », a déclaré Wolf.

Le co-fondateur de Hugging Face réfléchit à cette question depuis quelques mois. Son intérêt a été éveillé après qu’il a lu un essai rédigé par Amodei d’Anthropic, qui avançait que « la biologie et la médecine alimentées par l’IA nous permettront de compresser les progrès qu’auraient accomplis les biologistes humains au cours des 50 à 100 prochaines années en 5 à 10 ans ».

Les startups poursuivent leurs objectifs

Wolf reconnaît qu’il réfléchit au sujet depuis des mois et qu’il est devenu moins convaincu à mesure qu’il retournait les prévisions d’Amodei dans son esprit. Il voit une réalité plus humble, où l’IA pourrait être un outil de soutien plutôt qu’un changement de jeu.

AlphaFold, un système d’IA développé par DeepMind de Google qui a cartographié les structures des protéines et créé de nouvelles voies pour la découverte de médicaments, a provoqué un tollé.

Selon Wolf, l’IA n’est qu’un acte de soutien, bien qu’elle soit super avancée, et elle facilite une navigation plus rapide dans les matériaux, mais elle ne peut pas remplacer les bonds créatifs bizarres qui définissent les découvertes de calibre Nobel.

Toutes ces paroles de Wolf n’ont pas découragé les nouvelles entreprises d’entrer en scène, et certaines organisations comme FutureHouse et Lila Sciences ont promis d’appliquer l’IA dans leurs processus d’innovation. Cependant, il reste une période d’observation pour voir combien tiendront ces promesses.

Les pensées et opinions négatives de Wolf constituent un bon contrepoids à ceux qui ne font que tirer des prédictions positives dans l’industrie.

Selon lui, l’IA a la capacité de révolutionner le travail en laboratoire et de stimuler de petits pas en avant, mais lorsqu’il s’agit de réécrire les règles de la connaissance elle-même, il estime que le fardeau repose toujours sur les épaules humaines.

Un article récent de Cryptopolitan montre également comment la Silicon Valley croit fermement que l’IA peut aider les humains avec le don de l’immortalité quasi totale, permettant aux humains de vivre jusqu’à 200 ans.