Le PDG d'Anthropic déclare que le coût de formation de l'IA pourrait atteindre 100 milliards de dollars dans les trois prochaines années
- Les coûts d'entraînement de l'IA sont sur le point de flamber dans les prochaines années.
- Les modèles d'IA avancés, tels que ChatGPT-4, nécessitent environ 100 millions de dollars pour être entraînés.
- Les principales entreprises technologiques investissent massivement dans le développement de l'IA.
Le coût d'entraînement des modèles d'intelligence artificielle (IA) explose, les projections suggérant une augmentation significative au cours des prochaines années. Dario Amodei, PDG de la startup d'IA Anthropic, a souligné ces dépenses croissantes lors d'un récent épisode du podcast « In Good Company ».
À lire également : Les travailleurs de Samsung font grève pour exiger de meilleurs salaires dans un contexte de concurrence croissante en IA
Les modèles d'IA avancés actuels, tels que ChatGPT-4, nécessitent environ 100 millions de dollars pour être entraînés. Mais, selon Amodei, cela pourrait augmenter entre 10 milliards et 100 milliards de dollars au cours des trois prochaines années.
Le développement de l'intelligence artificielle générale entraîne une hausse des coûts
La forte augmentation est due au passage de l'IA générative, telle que ChatGPT, à l'intelligence artificielle générale (AGI). Les progrès vers l'AGI visent à développer des systèmes capables de comprendre, d'acquérir et d'utiliser les connaissances d'une manière similaire à l'esprit humain.
« Je pense que si nous atteignons 10 ou 100 milliards de dollars, et je pense que cela se produira en 2025, 2026, peut-être 2027… alors je pense qu'il y a de bonnes chances qu'à ce moment-là, nous puissions obtenir des modèles qui sont meilleurs que la plupart des humains dans la plupart des domaines. »
Amodei
Selon Tom’s Hardware, le cadre existant pour ces avancées est massif en ce moment. Par exemple, pour entraîner ChatGPT, plus de 30 000 GPU étaient nécessaires, et chaque puce IA Nvidia B200 coûte entre 30 000 et 40 000 dollars. Cet investissement matériel est l'un des éléments qui peuvent causer l'augmentation des dépenses.
Les ressources informatiques font augmenter les coûts d'entraînement de l'IA
Il y a plusieurs raisons pour lesquelles le coût de l'entraînement de l'IA est en hausse. La principale raison est que la quantité de ressources informatiques nécessaires est immense. Avec l'avancement des modèles d'apprentissage profond, des GPU puissants et d'autres matériels spécialement conçus sont nécessaires. Plus de 3,8 millions de GPU ont été expédiés vers des centres de données en 2023, ce qui démontre l'ampleur de l'infrastructure requise.
À lire également : L'intelligence artificielle affectera un large spectrede services publics
Un autre facteur important est la consommation d'énergie. La consommation d'énergie de tous les GPU vendus l'année dernière suffirait à alimenter 1,3 million de foyers. Cette forte consommation d'énergie entraîne non seulement des dépenses élevées pour les entreprises, mais soulève également des questions sur les effets sur l'environnement et la conservation. Selon un récent rapport de Google, les émissions de l'entreprise ont augmenté de près de 50 % au cours de quatre ans, principalement en raison de l'énergie requise pour l'apprentissage de l'IA.
Les géants de la technologie investissent massivement dans l'infrastructure IA
De plus, les grandes entreprises technologiques investissent beaucoup d'argent dans le développement de l'intelligence artificielle. Par exemple, Elon Musk souhaite acheter 300 000 des puces IA de pointe de Nvidia. De même, Microsoft et OpenAI travailleraient sur un centre de données de 100 milliards de dollars pour le développement de l'IA.
À lire également : Wimbledon utilise l'IA pour combattre les abus en ligne
Malgré ces coûts croissants, il existe des tentatives pour optimiser les coûts d'entraînement de l'IA. DeepMind de Google a récemment présenté une technique appelée Joint Example Selection (JEST) qui prétend réduire le nombre d'itérations d'un facteur 13 et les ressources informatiques nécessaires d'un facteur 10. Cela permet de réduire les ressources à utiliser et le temps à prendre.
Cependant, même avec ces avancées, la direction globale est vers des coûts plus élevés en raison de l'avancement de l'AGI. De l'IA générative à l'AGI, les modèles doivent interpréter de grands ensembles de données, apprendre à partir de ceux-ci, anticiper différentes situations et résoudre des problèmes nécessitant une pensée critique.
Cryptopolitan Reporting par Brenda Kanana
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
