La vision du PDG de OpenAI, Sam Altman, pour remplacer les « gens normaux » par l'IA générale (AGI)

Dans un récent profil publié dans New York Magazine, la vision du PDG de OpenAI, Sam Altman, pour l'avenir de l'intelligence artificielle générale (AGI) a soulevé des sourcils et suscité la controverse. L'utilisation par Altman du terme « humain médian » pour décrire les capacités de l'AGI a conduit à des craintes qu'il n'envisage un avenir où l'IA remplacerait ce qu'il perçoit comme des « gens normaux ». 

Le dilemme de l'« humain médian »

L'affirmation d'Altman selon laquelle l'AGI devrait posséder une intelligence équivalente à celle d'un « humain médian que vous pourriez embaucher comme collègue » a enflammé un débat sur l'impact potentiel sur la main-d'œuvre. Cette vision implique que l'IA pourrait effectuer diverses tâches actuellement réalisées par des travailleurs humains, du codage à la pratique de la médecine. Bien qu'Altman souligne les avantages potentiels de l'AGI, il est difficile de négliger les implications que cela pourrait entraîner en termes de déplacement d'emplois pour beaucoup.

Lors d'une interview en 2022 sur le podcast de Lex Fridman, Altman a développé ce concept, suggérant que l'AGI pourrait effectuer des tâches généralement réservées aux humains travaillant à distance derrière un ordinateur. Cette notion laisse certains se demander si ceux qui mènent une vie « médiane » pourraient bientôt voir leurs perspectives d'emploi diminuer.

Utilisation généralisée de la terminologie « Médian »

Il convient de noter qu'Altman n'est pas seul à utiliser le terme « médian » dans les discussions sur l'AGI. De nombreux blogs et publications sur l'IA ont employé une terminologie similaire, et CNBC a même publié un article intitulé « Comment parler d'IA comme un initié » présentant ce concept. L'idée derrière cette terminologie est de décrire les capacités de l'AGI comme se situant dans la plage de ce qu'un humain moyen ou médian peut accomplir.

Cependant, cette comparaison n'a pas été sans critiques. Brent Mittelstadt, directeur de la recherche à l'Oxford Internet Institute, trouve l'utilisation du terme « médian » préoccupante et vague. Il souligne qu'il n'existe pas de comparaison concrète et mesurable de l'intelligence humaine dans la recherche sur l'IA, ce qui rend difficile la définition d'une norme universelle pour ce qui constitue un « humain médian ».

Le défi d'équivaloir la performance à l'intelligence

L'un des principaux problèmes soulevé par les critiques est la confusion entre la performance et l'intelligence. Bien que les modèles d'IA puissent atteindre des performances de niveau humain dans certaines tâches, équivaloir cela à l'intelligence humaine soulève des questions éthiques et philosophiques. Henry Shevlin, éthicien de l'IA et professeur à l'Université de Cambridge, note que les discussions sur l'intelligence ont tendance à être plus sensibles en raison de la nature complexe de la cognition humaine.

Les critiques soutiennent que l'attribution d'agence, de compréhension, de cognition ou de raisonnement aux modèles d'IA mécanistes simplifie à l'excès la complexité de la pensée et de la conscience humaines. Cela réduit les humains à de simples moyennes statistiques, une perspective que beaucoup trouvent déshumanisante.

La vision plus large d'Altman

Sam Altman est une figure d'influence considérable dans l'industrie de l'IA, et sa vision va au-delà du simple remplacement des « gens normaux » par l'AGI. Il a souvent discuté de l'utilisation de l'IA pour relever des défis mondiaux, tels que le changement climatique, le Revenu Universel de Base et les énergies propres. Altman a déclaré que la mission d'OpenAI est de s'assurer que l'AGI profite à toute l'humanité si elle devient jamais une réalité.

Cependant, comme c'est souvent le cas avec les visions ambitieuses, il existe une diversité d'opinions sur ce qui constitue « bénéficier à toute l'humanité ». L'utilisation par Altman du concept d'« humain médian » met en lumière le défi de concilier sa vision avec les implications éthiques et pratiques du développement de l'AGI.

La controverse entourant la vision de Sam Altman pour l'AGI et son utilisation du terme « humain médian » souligne les considérations éthiques et pratiques complexes inhérentes au développement de l'IA. Bien que l'objectif d'Altman d'utiliser l'IA pour résoudre les problèmes mondiaux soit louable, les conséquences potentielles du remplacement des travailleurs humains par l'AGI méritent une attention particulière.

Alors que le domaine de l'IA continue d'avancer, il est crucial d'engager un dialogue significatif sur les implications des technologies de l'IA pour la société, la main-d'œuvre et l'essence de l'intelligence humaine. Le débat entourant la terminologie utilisée dans la communauté de l'IA reflète la nécessité d'une approche nuancée et éthique du développement de l'IA, garantissant que les avantages de l'IA générale (AGI) soient véritablement inclusifs et équitables pour toute l'humanité.