Le choc idéologique de la Silicon Valley : altruistes efficaces contre accélérationnistes efficaces

Un récent épisode de crise au sein d'OpenAI a mis l'entreprise sous les feux des projecteurs et révélé un profond conflit idéologique au sein de la Silicon Valley. Dans un revirement de situation aussi rapide que surprenant, le PDG de la société, Sam Altman, a été évincé de son poste, avant d'être réintégré peu après. Les répercussions de cette lutte de pouvoir de quatre jours ont des conséquences importantes pour l'avenir d'OpenAI et, plus largement, pour le secteur technologique.

La bataille des visions

Au cœur du conflit se trouve un désaccord fondamental sur l'avenir de l'intelligence artificielle. D'un côté, les altruistes efficaces (AE) prônent une approche prudente et encadrée du développement de l'IA. Ils perçoivent l'IA comme une menace existentielle potentielle pour l'humanité et insistent sur la nécessité d'une surveillance rigoureuse et de mesures de sécurité strictes.

Les partisans d'une accélération efficace (e/acc) se situent à l'opposé et défendent une approche plus dynamique et axée sur le marché pour le développement de l'IA. Ils affirment que la croissance libre de l'IA est le meilleur moyen d'exploiter son potentiel et estiment que le marché doit guider son évolution.

La position changeante de Sam Altman

Sam Altman, PDG d'OpenAI, est devenu une figure centrale de ce conflit idéologique. Bien qu'il ne se range pas explicitement du côté de l'accélérationnisme, ses actions et ses décisions laissent entrevoirtroninclination pour ce mouvement. Sous sa direction, OpenAI a abandonné sa mission initiale à but non lucratif de promotion de la sécurité de l'IA au profit d'une approche plus commerciale et axée sur la croissance.

Le lancement par Altman de produits d'IA tels que ChatGPT et Dall-E, qui ont suscité à la fois admiration et crainte en raison de leurs capacités avancées, souligne son engagement à repousser les limites de l'IA. Son tweet controversé de 2022, affirmant : « Vous ne pouvez pas me dépasser en vitesse », a encore renforcé son adhésion au point de vue accélérationniste.

Le potentiel obscur de l'IA

Au sein de la communauté technologique, des altruistes engagés expriment de profondes inquiétudes quant au développement incontrôlé de l'IA. Ils craignent que des scénarios où une IA non réglementée et incontrôlée pourrait avoir des conséquences catastrophiques ne se produisent. Leurs craintes vont de la prolifération de nanorobots capables de consommer toute la biomasse terrestre à l'utilisation de l'IA pour lancer une cyberattaque mondiale.

Liron Shapira, entrepreneur de renom et fervent défenseur de la sécurité de l'IA, va jusqu'à affirmer que l'IA « va nous tuer ». Il souligne que les moyens précis par lesquels l'IA pourrait constituer une menace importent moins que le fait qu'elle surpasse l'intelligence humaine. Elle pourrait potentiellement atteindre n'importe quel objectif, y compris ceux qui seraient préjudiciables à l'humanité.

La rébellion optimiste d'E/acc

À l'inverse, les adeptes d'e/acc, comme Augustus Doricko, perçoivent leur mouvement comme un rejet du nihilisme. Ils adhèrent à une vision novatrice, celle de la génération Z, qui croit au potentiel des technologies pour améliorer le monde. Doricko, par exemple, a fondé Rainmaker, une entreprise d'ensemencement des nuages ​​visant à résoudre les problèmes liés à la sécheresse.

La conviction fondamentale d'E/acc, résumée dans son manifeste, est que la technologie doit être adoptée et accélérée plutôt que combattue. L'organisation soutient que la vie tend intrinsèquement vers l'expansion et que le destin de l'humanité se trouve parmi les étoiles.

Communauté et influenceurs E/acc

Le mouvement e/acc a rassemblé un nombre important d'adeptes, principalement en ligne. Il célèbre le progrès technologique et la « construction », englobant des domaines aussi variés que l'intelligence artificielle avancée et l'exploration spatiale. Des personnalités telles que Marc Andreessen et Chris Prucha ont exprimé leur soutien aux principes de l'e/acc.

Dans la région de la baie de San Francisco, où se concentrent de nombreux innovateurs du secteur technologique, des soutiens d'e/acc comme Prucha s'investissent activement dans des projets tels que GrowSF, une organisation à but non lucratif qui s'attaque à des problèmes comme la pénurie de logements, l'éducation et la sécurité publique. GrowSF illustre concrètement l'engagement d'e/acc à améliorer la société grâce à la technologie.

Contexte politique et réglementation de l'IA

Alors que le mouvement de l'altruisme efficace prend de l'ampleur, les tenants d'une IA efficace dominent les débats politiques à Washington. Le décret dudent Biden sur la sûreté et la sécurité de l'IA et la récente réglementation de l'Union européenne en la matière s'inscrivent davantage dans la perspective prudente de l'altruisme efficace.

Les géants de la tech, comme Google, Apple et Facebook, soutiennent souvent la réglementation de l'IA. Certains critiques affirment que ces entreprises, autrefois novatrices, privilégient désormais une réglementation visant à étouffer la concurrence et à préserver leurs positions établies.

E/acc : Un retour à l'esprit pionnier de la technologie

Pour des partisans comme Antonio García Martínez, e/acc représente un retour à l'esprit pionnier originel de la Silicon Valley. Il oppose l'éthique révolutionnaire d'e/acc à celle des géants de la tech établis, devenus la nouvelle élite.

Pour Martínez, e/acc incarne la conviction que la technologie peut résoudre quasiment tous les problèmes, contrairement à la mentalité disruptive qui prévalait auparavant dans le secteur technologique. Ce mouvement vise à exploiter le potentiel de la technologie pour bâtir un avenir meilleur.