Les modèles d'IA peuvent être risqués s'ils sont laissés à des éléments voyous
- Le gouvernement américain met en place des garde-fous pour restreindre les exportations de modèles d'IA vers la Russie et la Chine.
- Les deepfakes et les armes biologiques sont censés représenter des risques urgents.
- Une nouvelle loi aidera l'administration Biden à contrôler les exportations d'IA, ce qui ralentira les progrès de la Chine.
Le Département du Commerce sous l'administration Biden vise une nouvelle initiative de conformité pour restreindre davantage l'exportation de modèles d'intelligence artificielle à source ouverte ou fermée. L'initiative est un effort pour protéger les intérêts américains et la technologie IA de la Russie et de la Chine et complétera les mesures prises au cours des deux dernières années pour bloquer l'accès chinois aux puces informatiques avancées les plus récentes.
Selon Reuters, citant trois sources familiarisées avec la question, les États-Unis s'efforcent de renforcer les barrières de protection autour des logiciels centraux des grands modèles de langage qui alimentent des applications comme ChatGPT. Bien que l'agence de presse ait affirmé que des chercheurs du secteur privé et du gouvernement s'inquiètent du fait que les adversaires des États-Unis puissent utiliser cette technologie pour des cyberattaques agressives et développer des armes biologiques, l'ambassade de Chine s'est opposée à cette mesure, la qualifiant de bullying unilatéral et de coercition économique.
Les deepfakes sont une arme de désinformation mortelle
Les menaces que redoutent les États-Unis sont nombreuses et peuvent être utilisées par des acteurs non étatiques soutenus par des États. Les deepfakes peuvent servir d'arme de propagande efficace, car ils impliquent des vidéos réalistes mais fausses créées par des outils d'IA.
Ce type de vidéos émerge déjà sur les réseaux sociaux. Bien que ce contenu médiatique existe depuis quelques années, développé avec des logiciels d'animation et de rendu, les outils d'IA générative ont facilité leur production pour quiconque, et des acteurs malveillants peuvent les exploiter plus facilement que jamais pour manipuler l'opinion publique sur des questions sensibles, en particulier pendant les campagnes électorales.
Les plateformes de réseaux sociaux comme YouTube, Facebook et Twitter ont déjà pris des mesures pour limiter les deepfakes, mais les tactiques pour les développer et les publier évoluent également avec le développement technologique. À l'heure actuelle, des outils d'entreprises comme Microsoft et OpenAI peuvent être utilisés pour créer du contenu destiné à répandre la désinformation.
Une préoccupation beaucoup plus grande est que les modèles d'IA peuvent divulguer des informations pour le développement d'armes biologiques, selon les chercheurs de Rand Corporation et Gryphon Scientific, et les agences de renseignement américaines, les experts universitaires et les think tanks s'inquiètent de la possibilité que l'IA tombe entre les mains d'éléments dévoyés.
L'étude de Gryphon a identifié comment les LLM peuvent produire des connaissances expertes et de niveau doctorat qui peuvent aider au développement de virus ayant des capacités pandémiques, et cela peut être utilisé par des acteurs non étatiques comme armes biologiques.
Cyberattaques amplifiées avec les modèles d'IA
Le Département de la Sécurité intérieure a également exprimé des préoccupations selon lesquelles des cyberattaques contre des infrastructures cruciales comme les chemins de fer et les pipelines pourraient être exécutées avec l'IA en développant de nouveaux outils capables de réaliser des cyberattaques à plus grande échelle et plus complexes, et plus rapidement.
L'agence a également déclaré que la Chine développe des logiciels d'intelligence artificielle qui peuvent être utilisés pour des attaques par malware, et qu'elle travaille également sur des technologies d'IA qui pourraient potentiellement saboter les défenses cybernétiques du pays.
En février, Microsoft a publié un rapport dans lequel il a noté qu'il avait identifié des groupes de cybercriminels impliqués dans des activités de piratage qui perfectionnent leurs campagnes en utilisant des LLM, et qu'ils ont des liens avec le renseignement militaire des gouvernements russe, nord-coréen et chinois, ainsi qu'avec les Gardiens de la Révolution d'Iran.
L'entreprise a annoncé une interdiction des groupes cyber financés par l'État qui utilisent ses produits et services d'IA. Mercredi, un groupe d'hommes d'État a proposé un projet de loi qui aidera le gouvernement Biden à appliquer des contrôles sur l'exportation de modèles d'IA pour empêcher leur exposition à des adversaires potentiels.
Les experts sur le sujet ont déclaré que Washington essaie d'éviter des réglementations trop lourdes qui pourraient supprimer l'innovation alors qu'ils essaient de favoriser l'innovation ainsi que des solutions possibles pour les risques associés à l'IA. Ils ont également souligné que l'application de réglementations strictes en réglementant strictement l'avancement de l'IA créera un vide pour les concurrents étrangers et aura un impact négatif sur les domaines de l'infrastructure, de la sécurité nationale et de la découverte de médicaments.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
