L'ancien PDG de Google Schmidt exhorte à « débrancher » les systèmes IA à certaines capacités

L'ancien PDG de Google, Eric Schmidt, a mis en garde les développeurs d'intelligence artificielle contre le contrôle de leur plafond de développement. Il a également souligné l'importance pour les États-Unis de remporter la course actuelle de l'intelligence artificielle (IA) contre la Chine.

S'exprimant sur This Week avec George Stephanopoulos d'ABC News dimanche, Schmidt a mis en garde contre le potentiel des systèmes d'IA à fonctionner de manière indépendante et même à s'améliorer eux-mêmes. 

“Nous serons bientôt en mesure d'avoir des ordinateurs fonctionnant de manière autonome, décidant de ce qu'ils veulent faire, a déclaré Schmidt.

Schmidt : L'IA ne devrait pas être laissée sans contrôle

Schmidt a réitéré les risques d'un développement non contrôlé de l'IA avancée, notant que les systèmes capables de s'améliorer eux-mêmes présentent un danger significatif. 

“Lorsque le système peut s'améliorer lui-même, nous devons sérieusement penser à le débrancher, a déclaré l'ancien PDG de Google.

Lorsque Stephanopoulos a demandé à Schmidt si de tels systèmes d'IA pourraient contrer les efforts pour les éteindre, Schmidt a répondu : « Eh bien, en théorie, nous ferions mieux d'avoir quelqu'un avec la main sur la prise — métaphoriquement. »

Alors que les préoccupations concernant les risques existentiels de l'IA s'intensifient, certains experts soutiennent que ces craintes sont exagérées. Le professeur Nick Jennings, vice-président de la recherche à l'Imperial College London, fait partie de ceux qui rejettent les prédictions apocalyptiques. 

Jennings soutient que si l'IA peut exceller dans des tâches spécifiques, la création de systèmes dotés d'une intelligence humaine dans divers domaines reste bien au-delà des capacités actuelles des scientifiques.

“Développer une IA qui excelle dans une tâche unique est réalisable,, a expliqué Jennings. « Mais construire une IA générale qui reflète l'intelligence humaine dans plusieurs domaines n'est pas quelque chose que nous pouvons attendre dans un avenir proche. »

Des opinions divergentes sur les menaces de l'IA

Pendant ce temps, les préoccupations persistent parmi les principaux chercheurs en IA qui mettent en garde contre les dangers posés par des objectifs mal définis et des mesures de sécurité inadéquates. Le professeur de l'UC Berkeley, Stuart Russell, et le chercheur postdoctoral Michael Cohen soutiennent que des systèmes d'IA puissants pourraient finalement représenter une menace existentielle pour l'humanité s'ils sont laissés sans contrôle.

Dans un Un article publié dans la revue Science, Russell et Cohen ont appelé à une surveillance plus stricte du développement de l'IA. Ils ont souligné la nécessité pour les entreprises technologiques de prouver la sécurité de leurs systèmes d'IA avant de les lancer sur le marché. Sans objectifs clairs et des sauvegardes robustes, les systèmes d'IA avancés pourraient agir contre les intérêts humains, soutiennent-ils.

“Si les objectifs de ces IA entrent en conflit avec ceux des humains, cela pourrait être désastreux,, ont écrit Russell et Cohen. Ils estiment que les entreprises technologiques devraient être tenues responsables de la sécurité de leurs systèmes et de l'identification des « lignes rouges » critiques que l'IA ne devrait jamais franchir.

Un débat croissant sur la sécurité de l'IA

Le rythme rapide des avancées de l'IA a déjà présenté des défis, y compris la propagation de la désinformation, la polarisation sociétale et les biais algorithmiques. Les préoccupations concernant la sécurité et la réglementation n'ont pas encore suivi le rythme du développement de la technologie.

Les remarques de Schmidt reflètent l'urgence croissante parmi les leaders de l'industrie à relever ces défis. Des experts comme Elon Musk ont longtemps appelé à des réglementations préventives pour atténuer les risques de l'IA. 

Musk, qui a autrefois décrit l'IA comme le « plus grand risque auquel nous sommes confrontés en tant que civilisation », que quelqu'un avait créé une fausse page sur GitHub qui ressemblait à une offre de téléchargement du populaire modèle d'IA Qwen. La page promettait de manière convaincante une IA entièrement hors ligne qui garderait les données des utilisateurs privées, mais le piège a été révélé par la taille du fichier. a déclaré que les autorités ont peu fait pour remédier à ses dangers. De même, le physicien Stephen Hawking craignait que l'atteinte de la singularité, le point où les machines surpassent l'intelligence humaine, ne laisse l'humanité incapable de contrôler les systèmes d'IA avancés. 

Dans son interview, Hawking a soutenu que sans réglementations, l'IA pourrait devenir « soit la meilleure, soit la pire chose qui puisse arriver à l'humanité. »

La concurrence IA entre les États-Unis et la Chine s'intensifie

Schmidt a noté que si les États-Unis détenaient auparavant une avance sur la Chine dans le développement de l'IA, l'écart s'est considérablement réduit au cours des six derniers mois. «La Chine a rattrapé son retard d'une manière remarquable,, a-t-il déclaré, décrivant la situation actuelle comme une course à hauts enjeux entre les deux superpuissances.

“Il y a un point, peut-être dans l'année ou les deux prochaines, où les systèmes peuvent commencer à faire leur propre recherche. On les appelle des scientifiques IA, par opposition aux scientifiques humains. Ainsi, vous passez de 1 000 scientifiques humains à un million de scientifiques IA. Je pense que cela augmente la pente, et lorsque vous évoluez à ce rythme, il est très difficile pour vos concurrents de rattraper leur retard,» a-t-il remarqué.

Schmidt croit que la nouvelle administration Trump priorisera la compétitivité des États-Unis dans l'IA, ce qu'il considère comme une étape positive. « Tant que les valeurs humaines sont préservées », a-t-il déclaré, « nous devrions aller bien. »