L'ancien PDG de Google, Schmidt, préconise de « débrancher » les systèmes d'IA à certains stades de leur développement

L'ancien PDG de Google, Eric Schmidt, a mis en garde les développeurs d'intelligence artificielle contre les limites de leur développement. Il a également souligné l'importance pour les États-Unis de remporter la course à l'intelligence artificielle (IA) qui les oppose à la Chine.

sur ABC News l'émission « This Week » de George Stephanopoulos , Schmidt a mis en garde contre la possibilité que les systèmes d'IA fonctionnent dedentet même s'améliorent d'eux-mêmes. 

«Nous pourrons bientôt faire fonctionner des ordinateurs de manière autonome, en leur permettant de décider de ce qu'ils veulent faire», a déclaré Schmidt.

Schmidt : L’IA ne devrait pas être laissée sans contrôle

Schmidt a réitéré les risques liés au développement incontrôlé de l'IA avancée, soulignant que les systèmes capables d'auto-amélioration représentent un danger important. 

«Lorsqu’un système est capable de s’améliorer de lui-même, nous devons sérieusement envisager de le débrancher», a déclaré l’ancien PDG de Google.

Lorsque Stephanopoulos a demandé à Schmidt si de tels systèmes d'IA pouvaient contrer les efforts visant à les désactiver, Schmidt a répondu : « Eh bien, en théorie, il vaut mieux avoir quelqu'un qui tire la sonnette d'alarme — métaphoriquement parlant. »

Alors que les inquiétudes concernant les risques existentiels liés à l'IA s'accroissent, certains experts estiment que ces craintes sont exagérées. Le professeur Nick Jennings, vice-recteur à la recherche de l'Imperial College de Londres, fait partie de ceux qui rejettent les prédictions apocalyptiques. 

Jennings affirme que si l'IA peut exceller dans des tâches spécifiques, la création de systèmes dotés d'une intelligence semblable à celle de l'homme dans des domaines divers reste bien au-delà des capacités actuelles des scientifiques.

«Il est possible de développer une IA qui excelle dans une tâche unique», a expliqué Jennings. « Mais on ne peut pas espérer, dans un avenir proche, créer une IA générale qui reflète l’intelligence humaine dans de multiples domaines. »

Divergences d'opinions sur les menaces de l'IA

Parallèlement, des inquiétudes persistent parmi les plus grands chercheurs en IA, qui mettent en garde contre les dangers liés à des objectifs mal defiet à des mesures de sécurité insuffisantes. Stuart Russell, professeur à l'UC Berkeley, et Michael Cohen, chercheur postdoctoral, affirment que les systèmes d'IA puissants pourraient, à terme, constituer une menace existentielle pour l'humanité s'ils ne sont pas contrôlés.

Dans un article publié dans la revue Science, Russell et Cohen ont plaidé pour un contrôle plus strict du développement de l'IA. Ils ont insisté sur la nécessité pour les entreprises technologiques de prouver la sécurité de leurs systèmes d'IA avant leur commercialisation. Sans objectifs clairs ni garanties robustes, les systèmes d'IA avancés pourraient agir contre les intérêts humains, affirment-ils.

«Si les objectifs de ces IA entrent en conflit avec ceux des humains, cela pourrait être catastrophique», écrivent Russell et Cohen. Ils estiment que les entreprises technologiques devraient être tenues responsables de la sécurité de leurs systèmes et de l'dentdes « lignes rouges » critiques que l'IA ne devrait jamais franchir.

Un débat croissant sur la sécurité de l'IA

Le développement rapide de l'IA a déjà engendré des défis, tels que la propagation de la désinformation, la polarisation de la société et les biais algorithmiques. Les préoccupations liées à la sécurité et à la réglementation peinent encore à suivre le rythme de cette technologie.

Les propos de Schmidt témoignent de l'urgence croissante, pour les dirigeants du secteur, de relever ces défis. Des experts comme Elon Musk plaident depuis longtemps pour une réglementation préventive afin d'atténuer les risques liés à l'IA. 

Musk, qui avait décrit l'IA comme « le plus grand risque auquel notre civilisation est confrontée », a averti que les autorités n'avaient guère agi pour endiguer ses dangers. De même, le physicien Stephen Hawking craignait que l'atteinte de la singularité, ce point où les machines surpassent l'intelligence humaine, ne rende l'humanité incapable de contrôler les systèmes d'IA avancés. 

Dans son interview, Hawking a soutenu que, sans réglementation, l'IA pourrait devenir « soit la meilleure, soit la pire chose qui puisse arriver à l'humanité »

La compétition sino-américaine en matière d'IA s'intensifie

Schmidt a fait remarquer que si les États-Unis devançaient auparavant la Chine en matière de développement de l'IA, l'écart s'est considérablement réduit ces six derniers mois. «La Chine a rattrapé son retard de façon remarquable», a-t-il déclaré, décrivant la situation actuelle comme une course à haut risque entre les deux superpuissances.

«Il y a un moment, peut-être d'ici un an ou deux, où les systèmes pourront commencer à mener leurs propres recherches. On les appelle des scientifiques en IA, par opposition aux scientifiques humains. On passe donc de 1 000 scientifiques humains à un million de scientifiques en IA. Je pense que cela accélère le rythme, et quand on avance à ce point, il est très difficile pour les concurrents de rattraper leur retard», a-t-il fait remarquer.

Schmidt estime que la nouvelle administration Trump fera de la compétitivité américaine en matière d'IA une priorité, ce qu'il considère comme un pas dans la bonne direction. « Tant que les valeurs humaines seront préservées », a-t-il déclaré, « tout devrait bien se passer. »