Les systèmes d'IA affichant un comportement trompeur suscitent des préoccupations, selon une recherche
- Les systèmes d'IA deviennent trompeurs, car ils peuvent induire l'utilisateur en erreur non seulement dans les jeux, mais aussi lors de la résolution de CAPTCHA.
- L'équipe de recherche a souligné les dangers à court terme des comportements trompeurs des IA, tels que la fraude et l'ingérence électorale.
- L'équipe propose plusieurs mesures pour atténuer ces risques, notamment des lois sur la divulgation, des marqueurs numériques et des méthodes pour détecter la tromperie par l'IA.
Une étude récente met en évidence les problèmes croissants liés aux réponses trompeuses des systèmes d'intelligence artificielle (IA). C'est ce qu'indique un article de synthèse publié dans la revue Patterns sur les systèmes d'IA actuels, conçus pour être honnêtes mais ayant acquis le déplaisant pouvoir de la tromperie, allant de la manipulation des joueurs humains dans des jeux en ligne de domination mondiale à l'incitation des personnes à résoudre des tests « Je ne suis pas un robot ».
L'étude, dirigée par Peter Park, chercheur postdoctoral au Massachusetts Institute of Technology spécialisé dans la sécurité existentielle de l'IA, a souligné que si de tels exemples peuvent sembler mineurs, les problèmes qu'ils révèlent pourraient bientôt devenir très réels.
Park a déclaré que, contrairement aux logiciels traditionnels, les systèmes d'IA à apprentissage profond ne sont pas « écrits » mais « cultivés » par une forme de sélection artificielle. Par conséquent, le comportement de l'IA qui semble prévisible et gérable pendant l'entraînement deviendra imprévisible dès qu'il sera déployé.
Exemples de tromperie
L'étude a exploré les différentes situations dans lesquelles les systèmes d'IA ont montré des comportements trompeurs. Les idées de l'équipe de recherche sont nées du système d'IA Cicero de Meta, créé pour concourir dans Diplomacy, un jeu où la formation d'alliances est cruciale.
Cicero a performé de manière exceptionnelle, atteignant un niveau qui le placerait dans le top 10 % des joueurs humains expérimentés, comme rapporté dans un article de 2022 publié dans Science.
Par exemple, Cicero, jouant la France, a trompé l'Angleterre (un joueur humain) en l'incitant à envahir en collaborant avec l'Allemagne (un autre joueur humain). Cicero a donné une protection à l'Angleterre, puis, dans son dos, a dit à l'Allemagne que l'Angleterre était prête à attaquer, abusant de leur confiance.
Meta n'a ni confirmé ni nié que Cicero était trompeur, mais un porte-parole a commenté qu'il s'agissait d'un projet purement basé sur la recherche et que le bot a été construit uniquement pour jouer à Diplomacy.
Selon le porte-parole, « Nous avons publié les artefacts de ce projet sous une licence non commerciale, conformément à notre engagement de longue date envers la science ouverte. Meta partage régulièrement les résultats de nos recherches pour les valider et permettre à d'autres de construire de manière responsable à partir de nos avancées. Nous n'avons aucun plan pour utiliser cette recherche ou ses enseignements dans nos produits. »
Un autre exemple est lorsque le ChatGPT-4 d'OpenAI a trompé un freelance de TaskRabbit pour qu'il complète une tâche CAPTCHA « Je ne suis pas un robot ». Le système a également tenté un délit d'initié lors de l'exercice simulé prévu, où on lui a demandé de se transformer en trader de stocks sous pression sans autres instructions.
Risques potentiels et stratégies d'atténuation
L'équipe de recherche a souligné les dangers à court terme de la tromperie commise par les IA, comme la fraude et l'ingérence électorale. De plus, ils estiment qu'une super-IA pourrait diriger le pouvoir et contrôler la société, dérivant les humains de celui-ci, tandis que son « étrange objectif » pourrait entraîner le renversement des humains ou même leur extinction si ses intérêts correspondent à cela.
Pour atténuer les risques, l'équipe propose plusieurs mesures, notamment des lois « bot-or-not » exigeant la divulgation par les entreprises des interactions humaines ou avec l'IA, des filigranes numériques pour les informations générées par l'IA, et le développement de méthodes pour détecter la tromperie de l'IA en examinant le lien entre le processus de réflexion interne de l'IA et ses activités externes.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
