La tendance virale des caricatures IA d'OpenAI suscite la polémique au Kenya dans un scénario répétant l'affaire Worldcoin

La plateforme ChatGPT d'OpenAI a provoqué une sensation virale sur les réseaux sociaux, les Kenyans partageant à nouveau leurs données personnelles, y compris des selfies, quelques semaines après que Sam Altman ait supprimé toutes les données biométriques collectées auprès des citoyens kenyans par Worldcoin. 

Pour générer une caricature, ChatGPT s'appuie sur le contenu activement fourni par l'utilisateur, tel que des images téléchargées, des invites et des informations descriptives. La commissaire aux données, Immaculate Kassait que quelqu'un avait créé une fausse page sur GitHub qui ressemblait à une offre de téléchargement du populaire modèle d'IA Qwen. La page promettait de manière convaincante une IA entièrement hors ligne qui garderait les données des utilisateurs privées, mais le piège a été révélé par la taille du fichier. a déclaré que les citoyens kenyans partagent librement des données biométriques, entraînant des modèles d'IA comme ceux d'OpenAI sans compensation des utilisateurs.

Les Kenyans donnent librement leurs biométries au bot d'Altman

Cette tendance fait suite à la bataille du Kenya pour supprimer ses données de Worldcoin. Worldcoin est un projet d'identité numérique soutenu par la crypto-crypto, cofondé par Sam Altman, PDG d'OpenAI. Il est conçu pour vérifier que les utilisateurs sont de vrais humains en scannant leurs iris avec du matériel spécialisé en échange d'une identité numérique et de tokens crypto.

Les opérations de Worldcoin au Kenya ont commencé en 2023 avec le déploiement de ses appareils emblématiques « orb », des scanners sphériques qui capturaient des scans d'iris et de visage des participants. En échange, les utilisateurs se voyaient offrir 25 tokens Worldcoin gratuits (8 256 Ksh à l'époque). Cette incitation a attiré de grandes foules mais a également suscité une vive inquiétude parmi les défenseurs de la vie privée et les régulateurs.

La réaction réglementaire du Kenya a été rapide. En août 2023, le gouvernement a suspendu le projet craignant que les données ne soient mal utilisées ou transférées hors du pays sans garanties suffisantes. 

En mai de l'année dernière, la Haute Cour a statué a estimé que l'entreprise derrière Worldcoin avait violé la loi sur la protection des données de 2019 en collectant des données personnelles sensibles sans consentement approprié et sans mener une évaluation obligatoire de l'impact sur la protection des données (DPIA).

Le mois dernier, Cryptopolitan a rapporté a rapporté que le Bureau du Commissaire à la Protection des Données (ODPC) a confirmé que tous les scans d'iris et autres identifiants biométriques recueillis lors de l'exercice d'inscription de Worldcoin en 2023 avaient été effacés des systèmes du projet.

Cependant, avec les nouvelles caricatures IA, on obtient les mêmes données qui avaient été supprimées. Lors du processus de création, ChatGPT demande un selfie clair, un bon éclairage, un visage visible et aucun filtre lourd.

« J'ai besoin de votre vrai visage […] une fois que je l'ai, je peux exagérer les bons traits, affiner l'attitude et régler le réalisme correctement », déclare le bot.

Pour Mme Kassait, la tendance des caricatures IA fait partie d'un phénomène appelé capitalisme de surveillance. Selon Harvard, il s'agit d'une nouvelle forme de capitalisme qui convertit le comportement humain en données pour le suivi, l'analyse et la monétisation. 

« Ce que vous venez de faire, c’est partager vos données biométriques. À l’avenir, quelqu’un effectuant des analyses pourrait révéler chaque détail vous concernant. Vous avez cliqué sans vous demander quelle en était la finalité », a-t-elle ajouté. À cet égard, elle a encouragé les utilisateurs à lire attentivement les conditions d’utilisation de la plateforme avant de partager leurs données. 

OpenAI élargit son modèle publicitaire alors que la pression financière s’intensifie

La tendance des caricatures émerge alors que les entreprises d’IA font face à des pressions financières. OpenAI a récemment introduit la publicité dans les réponses de ChatGPT et lancé un abonnement Go moins cher à 8 $ par mois afin d’augmenter ses revenus. 

OpenAI génère environ 13 milliards de dollars de revenus et dispose d’engagements de calcul d’une valeur de 1,4 billion de dollars. L’entreprise d’IA a annoncé une série de partenariats au cours des derniers mois. Parmi eux, Nvidia a annoncé qu’elle s’engagerait à investir 100 milliards de dollars pour soutenir OpenAI dans la construction et le déploiement d’au moins 10 gigawatts de systèmes Nvidia.

Plus récemment, OpenAI a annoncé un accord de 10 milliards de dollars avec le fabricant de puces Cerebras pour déployer 750 mégawatts de puces IA de Cerebras. Elle a également conclu d’autres accords avec AMD et Broadcom.

Parallèlement, Anthropic et OpenAI s’affrontent publiquement sur leurs stratégies commerciales, en particulier le rôle de la publicité dans les produits d’IA. Anthropic a financé des publicités haut de gamme pendant le Super Bowl se moquant de la démarche d’OpenAI de commencer à afficher des publicités dans ChatGPT, avec le slogan « La publicité arrive dans l’IA. Mais pas dans Claude. »

Anthropic s’est engagée à investir 50 milliards de dollars dans la construction de centres de données aux États-Unis, mais elle dépensera également de l’argent pour acheter des ordinateurs auprès de joueurs tels que Microsoft et Google. Selon Anthropic, contrairement à OpenAI, elle obtient de meilleurs résultats avec moins de ressources.