Les promesses de sécurité d'IA de Google sous le feu après le rapport Gemini
- Google a publié un rapport de sécurité pour son dernier modèle d'IA, Gemini 2.5 Pro, plusieurs semaines après le lancement public du modèle.
- Les experts estiment que le rapport manque de détails importants sur la sécurité, ce qui rend difficile l'évaluation des risques liés au modèle ou des pratiques de sécurité de Google.
- Le rapport ne mentionne pas le Frontier Safety Framework (FSF) de Google, un outil conçu pour détecter les futures capacités à haut risque de l'IA.
Google a partagé un document de sécurité sur son modèle d'intelligence artificielle phare, Gemini 2.5 Pro. Les experts disent qu'il laisse des risques clés inexpliqués.
L'entreprise a publié le document technique jeudi, plusieurs semaines après avoir lancé Gemini 2.5 Pro auprès des clients. Le document liste les tests internes que Google a effectués sur le modèle mais offre peu de faits sur la façon dont le système se comporte sous surcharge ou mauvaise utilisation. Les chercheurs qui ont examiné le document ont déclaré à TechCrunch que les détails manquants rendent difficile l'évaluation de la sécurité réelle de Gemini 2.5 Pro pour une utilisation généralisée.
Les rapports techniques sont l'un des principaux moyens par lesquels le public apprend ce que les systèmes d'IA avancés peuvent et ne peuvent pas faire. Un rapport approfondi montre souvent où un modèle échoue et où il pourrait être mal utilisé. De nombreux chercheurs en IA considèrent ces documents comme des efforts honnêtes pour étayer les affirmations de sécurité d'une entreprise.
Google gère la déclaration de sécurité différemment.
Google publie un rapport uniquement après qu'un modèle n'est plus étiqueté « expérimental », et il déplace certaines découvertes de « capacités dangereuses » dans un audit séparé qui n'est pas publié immédiatement. Par conséquent, le document public ne couvre pas toutes les menaces que Google a testées.
Plusieurs analystes ont déclaré que le nouveau document Gemini 2.5 Pro est un cas frappant de divulgation limitée. Ils ont également remarqué que le rapport ne fait jamais référence au Framework de Sécurité Frontalière de Google, ou FSF, une politique annoncée par l'entreprise l'année dernière pour identifier les futurs pouvoirs de l'IA qui pourraient causer « des dommages graves ».
« Ce rapport est très clairsemé, contient des informations minimales et est arrivé des semaines après la mise en public du modèle », a déclaré Peter Wildeford, cofondateur de l'Institut pour la Politique et la Stratégie de l'IA. « Il est impossible de confirmer si Google respecte ses propres promesses, et par conséquent impossible d'évaluer la sécurité et la sûreté de ses modèles. »
Thomas Woodside, cofondateur du Projet IA Sécurisé, a déclaré qu'il était heureux qu'un document soit apparu, mais il doutait du plan de Google de publier des suivis réguliers. Il a souligné que la dernière fois que l'entreprise a partagé les résultats des tests de capacités dangereuses était en juin 2024, et que ce document couvrait un modèle annoncé en février de la même année.
La confiance a encore chuté lorsque les observateurs n'ont vu aucun document de sécurité pour Gemini 2.5 Flash, un modèle plus léger et plus rapide que Google a révélé la semaine dernière. Un porte-parole de l'entreprise a déclaré qu'un document Flash est « bientôt disponible ».
« J'espère que c'est une vraie promesse de commencer à donner des mises à jour plus fréquentes », a déclaré Woodside. « Ces mises à jour devraient inclure les résultats pour les modèles qui n'ont pas encore atteint le public, car ces modèles peuvent également présenter des risques sérieux. »
Google est désormais en retard sur la transparence
La note de sécurité de Meta pour ses nouveaux modèles Llama 4 ne fait que quelques pages, tandis qu'OpenAI a choisi de ne publier aucun rapport du tout pour sa série GPT‑4.1.
Le manque de détails survient à un moment tendu. Il y a deux ans, Google avait déclaré au gouvernement américain qu'il publierait des documents de sécurité pour chaque modèle d'IA « significatif » relevant du champ d'application. L'entreprise a fait des engagements similaires auprès des fonctionnaires d'autres pays, disant qu'elle offrirait une « transparence publique » sur ses produits d'IA.
Kevin Bankston, conseiller principal en gouvernance de l'IA au Center for Democracy and Technology, a qualifié les publications des principaux laboratoires d'« course au fond » en matière de sécurité.
« Combiné avec des rapports indiquant que des laboratoires rivaux comme OpenAI ont réduit le temps de test de sécurité avant la publication de mois à jours, cette documentation maigre pour le modèle principal de Google raconte une histoire troublante d'une course au fond sur la sécurité et la transparence de l'IA alors que les entreprises précipitent leurs modèles sur le marché », a-t-il ajouté.
Google dit que la majeure partie de son travail de sécurité se déroule à huis clos. L'entreprise déclare que chaque modèle subit des tests stricts, y compris des « équipes rouges adversariales », avant tout lancement public.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Noor Bazmi
Noor Bazmi contribue à l'équipe d'actualités de Cryptopolitan, dotée d'un diplôme en études médiatiques. Noor couvre les actualités liées à la blockchain, aux cryptomonnaies, à l'intelligence artificielle, aux grandes entreprises technologiques, aux marchés des véhicules électriques, à l'économie mondiale et aux changements de politique gouvernementale. Elle poursuit actuellement des études en marketing pour mieux connecter avec les audiences mondiales.
