Les promesses de Google en matière de sécurité de l'IA sont remises en question suite au rapport Gemini

Google a publié un document de sécurité concernant son modèle phare d'intelligence artificielle, Gemini 2.5 Pro. Selon les experts, des risques importants restent inexpliqués.

L'entreprise a publié le document jeudi, plusieurs semaines après la sortie du Gemini 2.5 Pro. Ce document détaille les tests internes effectués par Google sur le modèle, mais fournit peu d'informations sur le comportement du système en cas de surcharge ou de mauvaise utilisation. Les chercheurs ayant examiné le document ont indiqué à TechCrunch que le manque de détails ne permet pas de déterminer si le Gemini 2.5 Pro est réellement sûr pour une utilisation à grande échelle.

Les rapports techniques constituent l'un des principaux moyens pour le public de s'informer sur les capacités et les limites des systèmes d'IA avancés. Un rapport complet met souvent en évidence les failles d'un modèle et les risques d'utilisation abusive. De nombreux chercheurs en IA considèrent ces documents comme des efforts sincères pour étayer les affirmations des entreprises en matière de sécurité.

Google gère les signalements de sécurité différemment.

Google ne publie un rapport que lorsqu'un modèle n'est plus considéré comme « expérimental », et certains résultats concernant des « capacités dangereuses » font l'objet d'un audit distinct qui n'est pas publié immédiatement. Par conséquent, le document public ne couvre pas toutes les menaces testées par Google.

Plusieurs analystes ont déclaré que le nouveau document Gemini 2.5 Pro illustre parfaitement le manque de transparence. Ils ont également constaté que le rapport ne fait aucune mention du Frontier Safety Framework (FSF) de Google, une politique annoncée l'année dernière par l'entreprise pour identifier les futures intelligences artificielles susceptibles de causer des dommages graves

« Ce rapport est très succinct, contient peu d'informations et a été publié plusieurs semaines après la diffusion publique du modèle », a déclaré Peter Wildeford, cofondateur de l'Institute for AI Policy and Strategy. « Il est impossible de vérifier si Google tient ses promesses et, par conséquent, d'évaluer la sûreté et la sécurité de ses modèles. »

Thomas Woodside, cofondateur du Secure AI Project, s'est dit satisfait de la publication de ce document, tout en doutant de la volonté de Google de publier régulièrement des mises à jour. Il a souligné que la dernière fois que l'entreprise avait partagé les résultats de tests sur les capacités dangereuses remontait à juin 2024, et que ce document portait sur un modèle annoncé en février de la même année.

La confiance s'est encore ébranlée lorsque les observateurs n'ont trouvé aucun document de sécurité pour Gemini 2.5 Flash, un modèle plus fin et plus rapide que Google a dévoilé la semaine dernière. Un porte-parole de l'entreprise a déclaré qu'un document Flash serait « disponible prochainement »

« J’espère que c’est un véritable engagement à fournir des mises à jour plus fréquentes », a déclaré Woodside. « Ces mises à jour devraient inclure les résultats des modèles qui n’ont pas encore été rendus publics, car ces modèles peuvent également présenter des risques importants. »

Google manque désormais de transparence

de sécurité de Meta La note concernant ses nouveaux modèles Llama 4 ne fait que quelques pages, tandis qu'OpenAI a choisi de ne publier aucun rapport pour sa série GPT-4.1.

Ce manque de précisions survient à un moment tendu. Il y a deux ans, Google avait annoncé au gouvernement américain qu'il publierait les documents de sécurité relatifs à chaque modèle d'IA « important » concerné. L'entreprise avait pris des engagements similaires auprès des autorités d'autres pays, affirmant vouloir faire preuve de transparence quant à ses produits d'IA.

Kevin Bankston, conseiller principal en matière de gouvernance de l'IA au Centre pour la démocratie et la technologie, a qualifié les publications des principaux laboratoires de « course vers le bas » en matière de sécurité.

« Conjuguée aux informations selon lesquelles des laboratoires concurrents comme OpenAI ont réduit le temps de test de sécurité avant la publication de plusieurs mois à quelques jours, cette documentation lacunaire concernant le modèle phare de Google révèle une course inquiétante vers le bas en matière de sécurité et de transparence de l'IA, alors que les entreprises se précipitent pour commercialiser leurs modèles », a-t-il ajouté.

Google affirme que la majeure partie de son travail en matière de sécurité se déroule en interne. L'entreprise précise que chaque modèle est soumis à des tests rigoureux, notamment des tests d'intrusion, avant tout lancement public.