La menace de l'IA plane plus lourdement que le changement climatique – Pourquoi ?

Le pionnier de l'intelligence artificielle Geoffrey Hinton a récemment déclaré dans une interview que l'IA pourrait représenter une menace plus urgente pour l'humanité que le changement climatique.

Hinton, l'un des « pères de l'IA », est une figure majeure du développement des systèmes d'intelligence artificielle contemporains, son travail formant la base des réseaux de neurones sous-tendant la technologie de l'IA.

Sa préoccupation quant aux dangers potentiels de l'IA s'ajoute à un chœur grandissant de voix parmi les leaders technologiques qui sont inquiets des conséquences futures des avancées de l'IA.

L'urgence des menaces liées à l'IA

Geoffrey Hinton, qui a récemment quitté Alphabet après une décennie au sein de l'entreprise, a exprimé ses inquiétudes quant à la menace potentielle que pourrait représenter l'IA si les machines surpassaient l'intelligence humaine et prenaient le contrôle.

Bien qu'il ait reconnu l'importance du changement climatique, Hinton a suggéré que la question de l'IA pourrait finalement être plus urgente.

Il a expliqué que la lutte contre le changement climatique implique des solutions simples, telles que l'arrêt des émissions de carbone. En revanche, la voie pour gérer les risques liés à l'IA est moins claire, rendant la situation potentiellement plus urgente.

Le lancement en novembre par OpenAI, soutenu par Microsoft, du chatbot alimenté par l'IA nommé ChatGPT a marqué le début d'une course aux armements technologiques. Le chatbot est rapidement devenu l'application ayant connu la croissance la plus rapide de l'histoire, atteignant 100 millions d'utilisateurs mensuels en deux mois.

En avril, Elon Musk, PDG de Twitter, s'est joint à des milliers d'autres personnes pour signer une lettre ouverte appelant à une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI.

Les signataires de la lettre ouverte comprenaient Emad Mostaque, PDG de Stability AI, des chercheurs de DeepMind (filiale d'Alphabet), ainsi que les pionniers de l'IA Yoshua Bengio et Stuart Russell.

Bien que Hinton partage leurs inquiétudes quant au fait que l'IA constitue une menace existentielle pour l'humanité, il s'oppose à l'idée d'arrêter la recherche, la jugeant « totalement irréaliste ».

Appels à une collaboration mondiale

En réponse à la lettre soutenue par Musk, un comité de députés européens a exhorté le président américain Joe Biden à organiser un sommet mondial sur l'orientation future de l'IA, aux côtés de la présidente de la Commission européenne Ursula von der Leyen.

Le comité a récemment approuvé un ensemble de propositions ciblant l'IA générative, qui obligerait des entreprises comme OpenAI à divulguer tout matériel protégé par le droit d'auteur utilisé pour entraîner leurs modèles.

Biden a tenu des entretiens avec plusieurs dirigeants d'entreprises d'IA, dont Sundar Pichai, PDG d'Alphabet, et Sam Altman, PDG d'OpenAI, à la Maison Blanche, promettant une discussion « franche et constructive » sur la nécessité d'une plus grande transparence dans les systèmes d'IA.

Hinton estime que les dirigeants technologiques et les politiciens ont la responsabilité de traiter les dangers potentiels de l'IA, car ce problème concerne tout le monde.

Les préoccupations croissantes concernant les menaces potentielles de l'IA soulèvent des questions sur la manière d'équilibrer innovation et réglementation.

Alors que l'IA continue d'évoluer et d'avoir un impact sur divers aspects de la société, il devient de plus en plus important de mener des discussions ouvertes et une collaboration entre les parties prenantes pour garantir que cette technologie puissante soit utilisée de manière responsable dans l'intérêt général.