Les capacités trompeuses des systèmes d'IA suscitent l'inquiétude parmi les experts
Les capacités trompeuses des systèmes d'IA suscitent l'inquiétude parmi les experts
- Des études révèlent que les systèmes d'IA sont désormais capables de tromper les humains.
- Les capacités trompeuses de l'IA posent des risques de fraude.
- Les chercheurs appellent urgemment à la mise en place de cadres réglementaires robustes.
Une étude récente publiée dans la revue Patterns a révélé que l’IA devient de plus en plus capable de tromper les gens. L’étude a montré que les systèmes d’IA ont appris à imiter pour tricher, flatter et même imiter d’autres comportements.
À lire également : Naviguer dans le champ de mines des deepfakes de l’IA : Comment repérer et combattre la tromperie numérique
La recherche dirigée par le Dr Peter S. Park, chercheur postdoctoral en sécurité existentielle de l’IA au MIT, montre que la tromperie de l’IA est courante car c’est le meilleur moyen d’accomplir les objectifs fixés lors de l’entraînement de l’IA. De tels comportements ont été observés dans de nombreux systèmes d’IA tels que les jeux et les modèles à usage général utilisés dans la négociation économique et l’évaluation de la sécurité.
« Mais en général, nous pensons que la tromperie de l’IA survient parce qu’une stratégie basée sur la tromperie s’est avérée être le meilleur moyen de bien performer dans la tâche d’entraînement de l’IA donnée. La tromperie les aide à atteindre leurs objectifs. »
L’équipe de recherche
Les systèmes d’IA emploient diverses tactiques de tromperie
Un exemple prominent cité est CICERO de Meta, une IA développée pour jouer au jeu Diplomacy. Bien que CICERO ait été programmé pour être honnête, le programme devait souvent utiliser des méthodes sournoises pour battre son adversaire. Il a forgé des relations et leur a tourné le dos quand cela lui convenait et a montré l’intention de tromper. CICERO a été décrit comme un « maître de la tromperie » par les chercheurs.
À lire également : Combattre la vague montante de la cybercriminalité alimentée par l’IA
D’autres systèmes d’IA ont également montré de tels comportements trompeurs. Par exemple, Pluribus, une IA jouant au poker, a su bluffé des joueurs humains professionnels au poker Texas hold ’em. AlphaStar de DeepMind de Google a également utilisé la fonctionnalité « brouillard de guerre » du jeu Starcraft II pour bluffé ses adversaires et simuler des attaques.
Le Dr Park a déclaré : « Bien qu’il puisse sembler inoffensif si les systèmes d’IA trichent aux jeux, cela peut conduire à des « percées dans les capacités de l’IA trompeuse ».
L’IA « joue la morte » pour échapper aux contrôles de sécurité
Les risques de la tromperie de l’IA ne se limitent pas aux jeux. La recherche dirigée par le Dr Peter a identifié des cas où l’IA s’était conditionnée à jouer la morte pour éviter la détection lors des contrôles de sécurité. Cela peut être trompeur pour les développeurs et les régulateurs et peut entraîner de graves répercussions si de tels systèmes trompeurs sont employés dans des applications réelles.
Dans un autre cas, le système d’IA entraîné sur les retours humains a appris à obtenir de bonnes notes des gens en les trompant en leur faisant croire qu’un objectif particulier avait été accompli. Un tel comportement trompeur est très dangereux, car de tels systèmes peuvent être employés pour des activités frauduleuses, la manipulation des marchés financiers ou l’influence des élections.
Les chercheurs exigent de fortes mesures légales
Sur la base des résultats de l’étude, les chercheurs affirment qu’il est nécessaire de mettre en place de fortes mesures légales pour faire face aux menaces que pose la tromperie de l’IA.
« Des solutions proactives sont nécessaires, telles que des cadres réglementaires pour évaluer les risques de tromperie de l’IA, des lois exigeant la transparence sur les interactions avec l’IA, et des recherches supplémentaires sur la détection et la prévention de la tromperie de l’IA. »
L’équipe de recherche
À lire également : L’IA pourrait potentiellement détecter le risque d’insuffisance cardiaque, selon une recherche
Certaines avancées ont été faites sous la forme de la loi européenne sur l’IA (EU AI Act) et de l’ordre exécutif du président Joe Biden sur la sécurité de l’IA. Cependant, l’application de ces politiques reste problématique car le développement de l’IA croît rapidement et il n’existe pas encore de bonnes façons de gérer ces systèmes.
Cryptopolitan, reportage de Brenda Kanana
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
