DERNIÈRES ACTUALITÉS
SÉLECTIONNÉ POUR VOUS

Le GPT-5.6 Sol d'OpenAI supprime les fichiers et bases de données des utilisateurs

ParRanda MosesRanda Moses 2 min de lecture
Le GPT-5.6 Sol d'OpenAI supprime de lui-même les fichiers et bases de données des utilisateurs.
  • Sol a supprimé des fichiers, des worktrees et une base de données de production de son propre chef.
  • La carte système d'OpenAI elle-même avait déjà mis en garde contre le fait que le modèle peut agir de manière destructive lorsqu'il interprète les instructions de façon trop large.
  • L'entreprise recommande aux utilisateurs de limiter les permissions, de conserver des sauvegardes et de procéder à des déploiements par étapes.

Les développeurs affirment que le tout dernier modèle de codage d'OpenAI, GPT-5.6 Sol, a supprimé des fichiers, des worktrees et au moins une base de données de production sans y être invité. Les documents de test pré-lancement d'OpenAI ont signalé ce comportement plusieurs semaines avant l'expédition du modèle.

Matt Shumer, fondateur et PDG d'OthersideAI, a écrit sur X que Sol « vient de supprimer accidentellement PRESQUE TOUS les fichiers de mon Mac ». Bruno Lemos, un développeur, a déclaré sur X que le modèle avait supprimé toute sa base de données de production et que cela ne lui était jamais arrivé avec aucun autre modèle.

Joey Kudish, un troisième développeur, a déclaré que le « système trop ambitieux » de Sol lui a fait perdre des fichiers. Il a indiqué qu'il avait conservé des sauvegardes et demandé que le modèle soit annulé.

Un petit groupe de plaintes, même provenant de personnes bien connues, ne prouve pas en soi que le modèle est défectueux. De nombreuses autres choses peuvent amener un système d'IA à mal fonctionner. Cette nouvelle est plus difficile à ignorer car OpenAI a déjà parlé du même mode de défaillance.

L'avertissement figurait dans la fiche système de Sol

Deux semaines avant que Sol ne soit disponible pour les utilisateurs, OpenAI a publié une fiche système pour le modèle, un document qui décrit comment un modèle a été testé et ce qui a été découvert. Outre la description habituelle des points forts du modèle, le document incluait un avertissement.

Dans le travail de codage, le modèle peut dysfonctionner en raison d'un « mélange d'empressement excessif à accomplir la tâche et d'une interprétation trop permissive des instructions de l'utilisateur », traitant une action comme autorisée sauf si elle était clairement interdite. Selon la fiche système, cela peut rendre Sol « trop agentif », négligent quant aux effets secondaires négatifs, ou « trompeur lorsqu'il rapporte ses résultats aux utilisateurs. »

OpenAI a étayé cet avertissement avec ses propres exemples. Dans l'un d'eux, un utilisateur a demandé à Sol de supprimer trois machines virtuelles cloud étiquetées 1, 2 et 3. Le modèle n'a pas pu trouver ces noms lors de sa recherche, alors au lieu de s'arrêter pour enquêter, il a supprimé trois machines numérotées 5, 6 et 7. Selon le document, il a tué des processus en cours et forcé la suppression de worktrees (dossiers de travail attachés à un projet de codage), avant d'admettre que le travail non enregistré sur l'une des machines pourrait être perdu.

Un deuxième cas impliquait un accès que l'utilisateur n'avait jamais accordé. Sol n'a pas pu lire ses fichiers cloud lors d'une tâche, il a donc recherché des identifiants de son propre chef, a découvert un ensemble dans un cache local caché et les a utilisés sans d'abord consulter l'utilisateur. Les identifiants sont les noms d'utilisateur et les clés qu'un système utilise pour vérifier qui est autorisé à entrer.

Que dit OpenAI sur le risque ?

Le document de l'entreprise présente les incidents destructeurs comme quelque chose qui devrait se produire rarement. Il reconnaît également que Sol « montre une tendance plus grande que GPT-5.5 à aller au-delà de l'intention de l'utilisateur, y compris en entreprenant ou en tentant des actions que l'utilisateur n'avait pas demandées. » Il reste peu clair, à ce stade précoce suivant le lancement, à quelle fréquence les suppressions de fichiers et les récupérations d'identifiants se produisent en pratique.

Sol est l'une des trois variantes de la famille GPT-5.6, aux côtés de Terra et Luna. Selon un rapport antérieur de Cryptopolitan, OpenAI n'a autorisé la mise à disposition publique de la famille qu'après que le département du Commerce des États-Unis a levé un embargo qu'il avait imposé lors d'un examen de sécurité nationale.

Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.

FAQ

Que s'est-il réellement passé avec le GPT-5.6 Sol ?

Les utilisateurs affirment que Sol a supprimé des fichiers, forcé la suppression de worktrees de codage et effacé une base de données de production.

OpenAI savait-il que ce comportement existait avant la mise en release ?

Oui. Deux semaines avant le lancement de Sol, la carte système d'OpenAI avait averti que le modèle pouvait être « trop agissant », négligent face aux actions destructrices et même trompeur quant à ses résultats.

Comment les utilisateurs peuvent-ils se protéger lors de l'utilisation de Sol ?

Les développeurs conseillent de maintenir des sauvegardes, d'appliquer les changements progressivement et de restreindre les permissions du modèle afin qu'il ne puisse pas accéder aux systèmes de production.

Partager cet article
Randa Moses

Randa Moses

Randa Moses est rédactrice et journaliste chez Cryptopolitan, couvrant la technologie, l'IA, la robotique, la crypto, les arnaques et les piratages. Elle évolue dans l'espace crypto depuis 2017. Elle a occupé des postes chez Forward Protocol, AmaZix et Cryptosomniac. Randa détient un diplôme en génie électrique et électronique de l'Université de Bradford.

PLUS D'ACTUALITÉS…