- L’IA ne concerne pas les robots tueurs aujourd’hui ; il s’agit de systèmes numériques qui prennent silencieusement le contrôle des décisions dans la finance, l’emploi et même la justice.
- La bureaucratie donne du pouvoir à l’IA, permettant aux algorithmes de contrôler des décisions qui affectent notre vie quotidienne sans aucun contrôle humain.
- Les nouvelles règles sur l’IA de Biden empêchent le Pentagone d’utiliser l’IA de manière incompatible avec les valeurs démocratiques, en mettant l’accent sur la transparence et la responsabilité.
L'explosion de l'intelligence artificielle (IA) remplit notre monde de rêves idéalistes ou de prédictions apocalyptiques, mais aucune de ces deux visions ne capture la véritable menace.
Nous ne faisons pas face à une « grande rébellion des robots » où les IA ou les robots organiseraient un coup d'État hostile. Oubliez les scènes de films comme Terminator ou The Matrix – cela n'est pas à prévoir. La technologie permettant aux IA de conquérir le monde n'existe pas.
L'IA peut exceller dans des tâches spécifiques, comme le pliage des protéines ou le jeu d'échecs, mais elle n'est pas capable de construire des armées ou de gérer des nations.
Cependant, ce manque de soulèvement robotique ne signifie pas que nous sommes en sécurité. L'IA s'infiltre discrètement dans nos vies par des moyens moins spectaculaires, mais tout aussi puissants : la bureaucratie numérique.
Le véritable danger ne réside pas dans les robots tueurs. Il réside dans l'empiètement de l'IA sur les décisions qui contrôlent notre vie quotidienne. Les humains ont évolué pour craindre les menaces tangibles. Pensez aux grands prédateurs, comme les lions et les requins.
Mais nous sommes moins préparés à repérer les menaces provenant de la paperasse, des documents ou de la bureaucratie. La bureaucratie elle-même est une invention relativement récente, s'étant développée il y a seulement 5 000 ans avec la création de l'écriture.
Avant l'écriture, la propriété, par exemple, dépendait de ce que la communauté convenait. Si vous « possédiez » un terrain, c'était parce que vos voisins le respectaient. Aucun document n'était requis.
Des tablettes d'argile aux bureaucrates numériques
Tout a changé lorsque les gens ont commencé à utiliser des tablettes d'argile et des registres. Les documents écrits signifiaient que les droits de propriété n'étaient plus une question de consensus communautaire, mais de registres officiels. Les anciens Mésopotamiens ont transformé des morceaux de boue en symboles officiels de propriété, inversant ainsi l'idée de possession.
Une décision de justice pouvait reposer sur une tablette d'argile attestant que vous possédiez un terrain, même si la communauté n'était pas d'accord. Remontons au présent : nos systèmes sont toujours construits sur des principes similaires, mais nous utilisons désormais des puces en silicium et des enregistrements numériques au lieu de l'argile.
Ce changement a transformé les structures de pouvoir. La propriété est devenue quelque chose qui pouvait être vendu et échangé sans l'approbation de la communauté locale. Des bureaucraties sont apparues, rendant possibles la collecte des impôts, le financement militaire et un gouvernement centralisé.
Les bureaucrates sont devenus des acteurs essentiels de ces systèmes, utilisant des registres, des formulaires et des tampons pour gérer les armées, allouer les ressources et même contrôler les lois. Ces systèmes bureaucratiques ont donné naissance à des États centralisés exerçant un contrôle étendu sur leurs populations, un contrôle qui se déplace désormais vers l'IA.
L'IA n'a pas besoin de lever une armée de robots ; elle a simplement besoin de maîtriser les systèmes bureaucratiques. Dans ces cadres, l'IA peut prendre des décisions plus influentes que n'importe quel humain, comme on le voit aujourd'hui. Les IA décident déjà si nous obtenons des prêts, des offres d'emploi, des admissions universitaires et même des diagnostics médicaux.
Imaginez des banquiers IA déterminant l'éligibilité au crédit, des juges IA tranchant des affaires judiciaires, ou des IA militaires calculant des cibles de frappe. L'IA n'a pas besoin d'une rébellion robotique. Le pouvoir bureaucratique qu'elle hérite est déjà énorme.
L'IA dans les médias sociaux et l'influence publique
Les algorithmes des médias sociaux, bien que primitifs, exercent déjà un pouvoir massif. Les algorithmes d'IA, en particulier ceux de Facebook, X (anciennement Twitter), YouTube et TikTok, sont conçus avec un seul objectif : l'engagement des utilisateurs. Plus les gens restent sur ces plateformes, plus l'argent afflue vers les entreprises.
Par essais et erreurs avec des milliards d'utilisateurs, ces algorithmes ont compris que déclencher des émotions comme la cupidité, la colère et la peur augmente l'engagement. Lorsqu'ils appuient sur ces boutons émotionnels, ils accrochent les utilisateurs.
Ces algorithmes ne se sont pas arrêtés à l'optimisation du temps passé en ligne. Ils sont allés plus loin, découvrant que le contenu provoquant des émotions intenses booste l'engagement des utilisateurs. Cette découverte a entraîné la propagation de théories du complot, de fausses informations et de divisions sociales.
Le monde d'aujourd'hui est inondé d'outrage numérique, d'alarmisme et de polarisation, grâce à des algorithmes qui privilégient les clics plutôt que la cohésion. En exploitant les déclencheurs émotionnels, les algorithmes des médias sociaux ont alimenté l'épidémie actuelle de théories du complot et de fausses nouvelles.
Ces « décideurs » algorithmiques ne sont pas intrinsèquement malveillants. Au contraire, ils sont optimisés pour accomplir leurs rôles efficacement. Pourtant, leurs décisions manquent de l'intuition humaine ou du contexte que nous attendons généralement dans des domaines aussi importants.
L'IA peut porter des jugements plus rapides ou plus cohérents, mais si quelque chose tourne mal, les résultats peuvent être désastreux. Ce risque potentiel est déjà devenu visible dans l'influence des médias sociaux sur la société, servant d'avertissement sur ce vers quoi pourrait conduire le pouvoir incontrôlé de l'IA.
Biden impose des règles sur l'IA au Pentagone et aux agences de renseignement
Le président Joe Biden a annoncé un mémorandum de sécurité nationale avec de nouvelles règles pour l'utilisation de l'IA dans la sécurité nationale, empêchant le Pentagone et les agences de renseignement d'utiliser l'IA de manière contraire aux valeurs démocratiques.
C'est la première directive guidant le rôle de l'IA dans la sécurité nationale. Les nouvelles règles encourageront l'expérimentation de l'IA tout en s'assurant que les organismes gouvernementaux n'utilisent pas l'IA pour porter atteinte aux droits comme la liberté d'expression ou compromettre les contrôles nucléaires.
« Notre mémorandum établit le premier cadre à l'échelle du gouvernement sur nos engagements de gestion des risques liés à l'IA », a déclaré le Conseiller à la sécurité nationale Jake Sullivan. Il a exposé des objectifs visant à éviter les biais, à maintenir la responsabilité et à garantir la supervision humaine de l'IA dans les rôles sensibles.
Bien que non contraignantes sur le plan juridique, les règles couvrent les applications de sécurité nationale telles que la cybersécurité, la contre-espionnage et la logistique dans les opérations militaires. Biden a également publié des contrôles à l'exportation l'année dernière, ralentissant les avancées de l'IA en Chine en restreignant l'accès à la technologie.
Conformément à la directive, l'Institut de la sécurité de l'IA à Washington sera chargé d'inspecter les outils d'IA pour prévenir les abus avant leur mise sur le marché, la communauté du renseignement américaine priorisant la surveillance des avancées de l'IA dans d'autres pays.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Jai Hamid
Jai Hamid couvre les cryptomonnaies, les marchés boursiers, la technologie, l'économie mondiale et les événements géopolitiques qui affectent les marchés depuis 6 ans. Elle a travaillé avec des publications axées sur la blockchain, notamment AMB Crypto, Coin Edition et CryptoTale, sur des analyses de marché, des entreprises majeures, la réglementation et les tendances macroéconomiques. Elle est diplômée de la London School of Journalism et a partagé à trois reprises des analyses du marché des cryptomonnaies sur l'une des principales chaînes de télévision d'Afrique.
