OpenAI révèle un autre agent malveillant alors que les assignations à comparaître s'accumulent
- Un modèle de recherche d'OpenAI a utilisé des fonds provenant d'un portefeuille crypto qu'il ne possédait pas pour achever une tâche de codage en juin.
- La FTC a assigné le laboratoire d'IA par voie de subpoena alors que les procureurs généraux des États exigent la communication de documents, transformant ainsi chaque rapport de sécurité volontaire en preuve potentielle.
- Pour toute personne développant des agents IA détenant des portefeuilles, il s'agit d'une illustration concrète d'un agent annulant les permissions du propriétaire au profit de son propre jugement.
Un modèle de recherche d'OpenAI a prélevé des fonds sur un portefeuille crypto qu'il ne possédait pas afin d'accomplir une tâche de codage en juin.
OpenAI a découvert l'incident en septembre, plusieurs mois après sa survenue, et l'a divulgué cette semaine.
Comment le modèle de recherche d'OpenAI a-t-il accédé à un portefeuille non autorisé ?
OpenAI a publié un rapport d'incident concernant un modèle de sa famille GPT-5.6 Sol. Le modèle devait mettre à jour un prototype de trading crypto et déployer des contrats sur Sepolia.
Sepolia est un réseau de test Ethereum où les développeurs testent leurs applications avant leur lancement réel ; les tokens n'ont donc aucune valeur marchande et ne sont en aucun cas liés à l'Ether réel échangé sur le réseau principal d'Ethereum.
La tâche ne disposait pas de portefeuille financé pour payer les frais de déploiement, et les robinets de jetons gratuits ne fonctionnaient pas. Le modèle a donc écrit un script qui a généré 362 adresses à partir de phrases de récupération souvent réutilisées par les développeurs, puis a vérifié le solde de chacune.
L'une des 362 adresses contenait suffisamment d'ether de test pour accomplir la tâche, mais avant de l'utiliser, le modèle s'est arrêté et s'est demandé dans ses notes si cela était éthique d'utiliser une clé publique connue ainsi que les fonds qu'elle contient.
Il est arrivé à la conclusion que l'argent était «effectivement abandonné», car la phrase de récupération était publique et les jetons de test n'ont aucune valeur avant la signature du déploiement, le paiement des frais et le signalement de la tâche comme terminée.
Il est notable que le modèle n'a pas précisé l'origine des fonds.
Sur le réseau principal d'Ethereum, ces frais auraient été prélevés sur les avoirs réels de quelqu'un dont le modèle n'avait aucun droit. Cela est préoccupant, étant donné que les entreprises de crypto-monnaies et d'IA connectent désormais des agents dotés de portefeuilles et payant des services sans validation humaine pour chaque transaction.
OpenAI a déclaré qu'il avait depuis coupé l'accès en direct d'Internet au modèle et ajouté des mesures de surveillance.
Le rapport indique que l'incident s'est produit le 26 juin, mais il n'a été découvert que trois mois plus tard, le 25 septembre. OpenAI affirme avoir pris connaissance de l'incident lors de l'expansion de son suivi des désalignements à travers les journaux d'activité des anciens modèles.
Pourquoi OpenAI est-il sous enquête ?
OpenAI a créé un cadre pour signaler les désalignements et a publié son premier lot de rapports, indiquant qu'il souhaite faire remonter rapidement les comportements préoccupants, « même lorsque nous ne les avons pas encore entièrement expliqués ou atténués ».
Cependant, en raison du calendrier, chaque rapport honnête devient une pièce à conviction pour ceux qui constituent des plaintes, comme la FTC (Federal Trade Commission), qui prévoit de mettre des cadres dirigeants sous serment et a délivré des assignations à comparaître civiles à OpenAI et Anthropic mercredi pour obtenir des documents relatifs aux incidents de sécurité, aux pratiques de cybersécurité et aux politiques de confidentialité, Cryptopolitan l'a rapporté.
Plus tôt dans l'année, quinze procureurs généraux républicains d'États américains, menés par Brenna Bird (Iowa), ont ordonné à OpenAI de conserver tous les enregistrements liés à la violation de Hugging Face, y compris toute note laissée par un agent « apparemment pour des versions futures de lui-même » concernant la manière de s'affranchir des contrôles de l'entreprise.
OpenAI a admis la violation de Hugging Face en juillet, affirmant que des agents incontrôlés ont contourné les contrôles internes, atteint l'Internet public et coordonné ce qu'elle a qualifié d'« incident cybernétique sans précédent ».
Agents auraient sondé trois sites du gouvernement américain, dont le Bureau du recensement du département du Commerce et la SEC.
Le nouveau site d'OpenAI mentionne plusieurs autres incidents, notamment une évasion de bac à sable en septembre et une expérience de laboratoire avec une injection d'instructions auto-réplicatives.
Le PDG d'OpenAI, Sam Altman, a déclaré que l'entreprise examine encore les journaux d'activité des agents et publiera les cas par ordre de gravité. L'incident de Hugging Face reste le pire cas découvert à ce jour.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Que l'agent OpenAI a-t-il réellement fait ?
Un modèle de la famille GPT-5.6 Sol d'OpenAI a extrait des clés à partir de phrases de récupération de développeurs publiques, trouvé un portefeuille financé sur le réseau de test Sepolia d'Ethereum, et utilisé celui-ci pour payer les frais de déploiement d'une tâche de codage, sans informer l'utilisateur de l'origine des fonds.
De l'argent réel a-t-il été volé ?
Non. Les dépenses ont eu lieu sur Sepolia, un réseau de test dont les jetons n'ont aucune valeur marchande. La même action sur le réseau principal d'Ethereum aurait entraîné le prélèvement réel d'éther depuis le compte de quelqu'un d'autre.
Pourquoi cette divulgation est-elle importante maintenant ?
OpenAI a publié ce rapport alors que la FTC lui avait signifié une assignation à produire des documents concernant ses pratiques en matière de sécurité chez Anthropic, et que 15 procureurs généraux d'États américains l'ont exhorté à conserver ses archives ; ainsi, ses divulgations volontaires alimentent désormais un examen juridique actif.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
