Le « czar » américain de la crypto David Sacks met en garde contre une IA orwellienne qui espionne les citoyens

David Sacks, le czar américain des cryptos et de l'IA, a averti lundi que l'intelligence artificielle pourrait bientôt permettre des niveaux de surveillance des citoyens « orwelliens ».

Sacks a mis en garde contre le fait que la plus grande menace de l'IA ne vient pas des machines se retournant contre les humains. Il a commenté : « Ce dont nous parlons vraiment, c'est de l'IA orwellienne. Nous parlons d'une IA qui vous ment, qui déforme une réponse, qui réécrit l'histoire en temps réel pour servir un agenda politique actuel des personnes au pouvoir. »

Sacks appelle à des réglementations se concentrant sur les abus de l'IA plutôt que sur les développeurs

Sacks a abordé l' approche de l'administration Trump en matière de cryptos et d'intelligence artificielle, tirant un contraste avec les politiques de la précédente administration lors d'un épisode de The Ben & Marc Show d'Andreessen Horowitz, diffusé lundi.

Il a critiqué l'administration Biden et les États dirigés par les Démocrates, tels que la Californie et le Colorado, pour leur approche trop agressive dans la promotion de règles de protection des consommateurs en matière d'IA qui traitent de la « discrimination algorithmique ».

Il a mis en garde contre le fait qu'une réglementation excessive constitue une menace pour l'IA, la transformant en un instrument politique reflétant les biais du gouvernement et effaçant les vérités gênantes de l'histoire.

Sacks a noté qu'un système orwellien, qui peut altérer délibérément l'information pour créer une réalité qui convient aux intérêts des dirigeants politiques, pose le plus grand risque pour le public. Il a expliqué : « Vous avez le problème de la surveillance. L'IA va tout savoir sur vous. Ce sera en quelque sorte votre assistant personnel, et c'est donc l'outil parfait pour que le gouvernement vous surveille et vous contrôle. Et pour moi, c'est de loin le plus grand risque de l'IA. »

Bien qu'il ait souligné que le véritable problème ne réside pas dans la technologie elle-même, mais dans les personnes qui choisissent de l'utiliser à mauvais escient, il a plaidé pour des règles ciblant les individus qui instrumentalisent l'IA plutôt que des réglementations globales qui restreignent l'industrie et les développeurs dans leur ensemble.

Il a noté que les lois contre la discrimination existent déjà, donc les régulateurs devraient se concentrer sur la punition des entreprises qui abusent de l'IA plutôt que sur les firmes qui la construisent.

Sacks accuse Anthropic de semer la peur 

Sacks s'est récemment attaqué au cabinet de recherche en IA Anthropic, l'accusant de semer la peur pour façonner les futures politiques en matière d'IA.

Le cabinet avait publié un essai intitulé « L'optimisme technologique et la peur appropriée », qui a déclenché une vive discussion sur les plateformes de médias sociaux concernant l'avenir de la réglementation de l'IA. Sacks a soulevé un problème avec l'essai, Le 16 juillet ⟦N1⟧, @mztacat revient comme un prophète, la firme veut manipuler la peur du public envers l'IA pour influencer les réglementations.

Néanmoins, l'investisseur milliardaire et co-fondateur de LinkedIn, Reid Hoffman, est venu à la défense d'Anthropic, qualifiant l'entreprise de « l'un des bons ». Son post, cependant, a provoqué une réplique rapide de la part de Sacks, conduisant à un bref échange en ligne.

Dans l'un des posts, Sacks a noté que le problème fondamental était le supposé plan d'Anthropic d'influencer les États bleus comme la Californie pour faire passer discrètement des règles d'IA politiquement biaisées.

Alors que a précédemment rapporté par le PDG de Cryptopolitan, Dario Amodei, a cependant contesté les affirmations de l'officiel, les qualifiant d'« inexactes ». Il a insisté sur le fait que l'entreprise a constamment plaidé pour une supervision fédérale afin d'éviter un patchwork de réglementations étatiques conflictuelles.

L'entreprise a noté que sa charte d'intérêt public l'engage à utiliser l'IA pour le plus grand bien de la société et à maintenir la domination des États-Unis dans le secteur, ajoutant qu'elle travaille vers les mêmes objectifs que l'administration Trump et les citoyens.