Une concurrence intense dans l'intelligence artificielle suscite des inquiétudes existentielles

L'avancement rapide de l'intelligence artificielle (IA) a déclenché une compétition mondiale, les États-Unis et la Chine prenant la tête, pour exploiter les capacités de l'IA. Bien que cette quête de suprématie technologique apporte des avantages indéniables, elle soulève également des préoccupations existentielles profondes qui nécessitent une attention immédiate.

Progrès remarquables en IA

Ces dernières années ont été témoins d'une augmentation sans précédent des capacités des systèmes d'IA. Notamment, l'IA générative, qui génère du texte, des images, de l'audio et du contenu vidéo à partir d'entrées humaines, a fait des progrès remarquables. Parmi les leaders dans ce domaine se trouve OpenAI, qui a gagné une reconnaissance mondiale avec la sortie de son modèle de langage large (LLM) ChatGPT en novembre 2022. Une mise à jour ultérieure en mars a introduit ChatGPT alimenté par le modèle encore plus puissant GPT-4. Microsoft et Google sont également entrés en lice avec Bing AI et Bard, respectivement.

Au-delà de l'IA textuelle, des applications génératives comme Midjourney, DALL-E et Stable Diffusion ont dévoilé des capacités de génération d'images et de vidéo étonnamment réalistes. Ces développements ont clairement montré que l'IA générative repousse les limites de ce qui était autrefois considéré comme le domaine exclusif de la créativité et de la communication humaines.

Aller au-delà de l'IA semblable à l'humain

Pourtant, l'IA générative n'est que la partie émergée de l'iceberg. Les chercheurs de Microsoft ont suggéré que GPT-4, l'un des LLM les plus avancés à ce jour, présente des signes d'intelligence artificielle générale (AGI) – une IA capable de surpasser les humains dans une large gamme de tâches intellectuelles. La capacité de GPT-4 à exceller dans des domaines tels que les mathématiques, la programmation, la médecine et le droit sans invites spécifiques est un témoignage de ses capacités cognitives semblables à l'humain. Les experts estiment que nous pourrions voir l'AGI dans les quatre prochaines décennies, un jalon qui porte une promesse immense et un péril.

AGI : l'objectif ultime

L'AGI représente l'objectif ultime pour les géants de la technologie comme OpenAI et la filiale de Google DeepMind. L'alléchant de réaliser une intelligence machine de niveau humain porte à la fois des profits inimaginables et la perspective d'une gloire mondiale sans précédent. Cependant, la quête de l'AGI ne se limite pas au secteur privé ; elle a des implications significatives pour la sécurité nationale et internationale.

Grande compétition dans la course à l'IA

La poursuite concurrentielle de l'IA avancée ne se limite pas aux entreprises technologiques. Les grandes puissances, notamment les États-Unis et la Chine, s'affrontent pour développer des systèmes d'IA avec des implications bien au-delà de la compétitivité économique. Les applications militaires de l'IA, telles que les armes autonomes, les cyberarmes, le commandement et le contrôle nucléaires, et la collecte de renseignements, ont le potentiel de remodeler la dynamique stratégique mondiale.

La croyance que la suprématie en IA pourrait assurer la domination mondiale a conduit à des efforts intensifiés dans les deux pays. Cette perception d'une « course aux armements » en IA n'est pas sans risques.

Échos historiques : les dangers d'une course aux armements

L'histoire offre des leçons sur les périls des courses aux armements. La fin des années 1950 a été témoin de préoccupations aux États-Unis concernant un supposé « écart de missiles » avec l'Union soviétique. Cette méprise a conduit à un développement accéléré des missiles balistiques, bien que les États-Unis étaient en avance dans la technologie des missiles. La simple perception de prendre du retard sur un adversaire a déclenché une course aux armements déstabilisante, pleine de risques d'accidents et d'escalade.

Aujourd'hui, une perception similaire d'un écart en IA entre les États-Unis et la Chine est apparue. Les avancées de la Chine dans l'IA militaire ont sonné l'alarme, les craintes de prendre du retard déclenchant une course potentiellement dangereuse pour développer des capacités en IA.

Les périls de la vitesse au détriment de la sécurité

Cependant, l'attention ne devrait pas se porter uniquement sur qui est en tête dans la course à l'IA. La peur d'une course aux armements peut inciter les entreprises et les gouvernements à privilégier la vitesse par rapport à la sécurité, conduisant au déploiement hâtif de systèmes d'IA sans précautions de sécurité adéquates.

Le problème de l'alignement de l'IA plane en grand. Bien que les capacités de l'IA aient progressé rapidement, la capacité de contrôler et de prédire de manière fiable les sorties de l'IA reste insaisissable. Même des conceptions d'IA bienveillantes peuvent entraîner des conséquences involontaires en raison de la complexité des processus de prise de décision de l'IA. Garantir que les systèmes d'IA s'alignent avec les valeurs et les intérêts humains est un défi formidable qui nécessite une considération et une réglementation attentives.

Coopération internationale : une nécessité

L'urgence du développement de l'IA pourrait entraver les efforts pour aborder l'alignement et la gouvernance de l'IA. De nombreux experts soutiennent qu'un développement graduel est plus sûr, car il permet l'incorporation de fonctionnalités de sécurité essentielles. Les craintes d'être laissé pour compte dans la course à l'IA peuvent étouffer les tentatives de réglementation et de gouvernance.

La nécessité d'une coopération internationale en matière de gouvernance de l'IA devient de plus en plus évidente. Des accords et conventions internationaux sur le déploiement de l'IA pourraient atténuer les risques associés à un développement rapide et non contrôlé. À l'instar du succès des accords sur le désarmement nucléaire et l'interdiction des armes biologiques pendant la Guerre froide, la gouvernance de l'IA pourrait empêcher le déploiement d'une IA mal alignée dans des domaines potentiellement catastrophiques.

Un espoir de collaboration

Malgré les défis, il existe un espoir de collaboration. Des experts américains et chinois en IA ont engagé des discussions sur la recherche en alignement et la gouvernance mutuelle. Des dirigeants tels que Sam Altman, PDG d'OpenAI, et des cadres de Microsoft ont souligné l'importance de la coopération dans le domaine de l'IA.

Cependant, la route à venir n'est pas sans obstacles. La question de la réglementation de l'IA s'est retrouvée mêlée à des débats géopolitiques plus larges, certains la considérant comme une concession potentielle aux rivaux. La question de la vitesse par rapport à la sécurité doit être abordée avec soin pour garantir un développement responsable de l'IA.

La course à la suprématie de l'IA s'accélère indéniablement, les grandes puissances et les géants de la technologie s'efforçant de mener la charge. Bien que cette compétition promette des avancées remarquables, elle soulève également des préoccupations profondes. La perspective d'une course aux armements de l'IA exige une coopération internationale et une approche nuancée qui privilégie la sécurité aux côtés de l'innovation. Ce n'est que par un alignement et une gouvernance minutieux que l'humanité pourra exploiter le pouvoir transformateur de l'IA tout en évitant des catastrophes potentielles.