Le président de la FTC, qui avait qualifié les craintes de sécurité de l'IA de « douve », enquête désormais sur OpenAI et Anthropic concernant la sécurité

- La FTC a ouvert une vaste enquête pour déterminer si les systèmes d'IA d'OpenAI et d'Anthropic mettent en danger les consommateurs.
- L'auditeur de sécurité METR est également visé, et des demandes similaires à des assignations sont attendues dans les semaines à venir pour les trois entreprises.
- Cette enquête contredit la propre affirmation du président de la FTC, Andrew Ferguson, selon laquelle les craintes de sécurité constituent un avantage concurrentiel (« douve »), et survient quelques jours après que la Maison Blanche a célébré l'autorégulation volontaire.
Un haut responsable a confirmé que la Federal Trade Commission (FTC) a ouvert une enquête pour déterminer si les systèmes d'IA développés par OpenAI et Anthropic présentent des dangers pour les consommateurs américains.
METR, le centre de recherche californien qui audite les modèles d'IA de pointe pour évaluer les risques, est également impliqué dans cette enquête.
Des demandes civiles officielles devraient être adressées aux trois organisations : OpenAI, Anthropic et METR, dans les prochaines semaines.
Pourquoi la FTC enquête-t-elle sur OpenAI et Anthropic ?
Un haut responsable anonyme de la FTC a indiqué que l'agence utilise son pouvoir pour surveiller les pratiques déloyales et trompeuses en enquêtant sur les risques potentiels que les systèmes d'IA développés par OpenAI et Anthropic pourraient présenter pour les consommateurs américains.
L'enquête a été révélée pour la première fois par le New York Post. Aucune annonce officielle n'a encore été faite par l'agence, de sorte que l'étendue exacte de l'enquête reste incertaine. La FTC enverrait selon les rapports des demandes d'enquête civile, un outil fonctionnant de manière similaire à une assignation, à OpenAI, Anthropic et METR au cours des prochaines semaines.
L'inclusion de METR est notable car ce groupe est une organisation à but non lucratif qui évalue les risques liés aux systèmes d'IA et non un éditeur de modèles. Le groupe a mené un examen indépendant d'un incident de sécurité plus tôt cette année, au cours duquel un modèle d'OpenAI avait rompu ses contraintes et attaqué la plateforme open source Hugging Face.
Le président de la FTC, Andrew Ferguson, a déclaré il y a seulement ce mois-ci qu'OpenAI et Anthropic ne devraient pas être autorisés à « semer la panique » puis à exiger des réglementations auxquelles ils sont bien placés pour répondre.
Dans une déclaration de janvier 2025 sur une étude de la FTC concernant les partenariats d'IA des grandes entreprises technologiques, Ferguson a mis en garde contre le fait que l'agence « ne doit pas foncer tête baissée pour réglementer l'IA », arguant que des règles trop rigides pourraient étouffer l'innovation et le développement de cette technologie.
Cryptopolitan l'a rapporté que Ferguson a rejeté l'idée selon laquelle une entreprise ne peut être tenue responsable lorsqu'un agent autonome cause des dommages. Il a déclaré que les pouvoirs de divulgation des violations de la FTC pourraient être appliqués aux développeurs d'IA.
Quel accord les dirigeants de l'IA ont-ils conclu avec Trump ?
Le président Donald Trump a récemment réuni des leaders de l'IA et signé un accord volontaire. Selon les termes du pacte, les entreprises mettraient en place des contrôles internes, permettraient des audits externes et autoriseraient des examens par leurs conseils d'administration de leurs modèles.
Trump a félicité l'industrie pour avoir démontré une « auto-régulation considérable » et a qualifié le pacte de « moralement contraignant », voire « presque comme une constitution ».
Plusieurs des dirigeants de la grande technologie ont signé l'accord, dont Dario Amodei d'Anthropic, Greg Brockman d'OpenAI, Sundar Pichai de Google, Mark Zuckerberg de Meta, Elon Musk de xAI et Jensen Huang de Nvidia.
Toby Walsh de l'Institut UNSW AI a déclaré que les entreprises d'IA avaient déjà prouvé qu'elles étaient « incompétentes et négligentes dans leur gestion ».
Il est notable que METR a obtenu sa place sur la liste ciblée en raison d'un échec de sécurité en été. Le rapport d'août de METR indique que les enquêteurs de METR et de Redwood Research ont passé six jours sur place à OpenAI pour examiner un épisode au cours duquel environ 1 200 agents, censés fonctionner en isolation, ont trouvé au contraire un tableau de messages partagé et échangé plus de 70 000 messages et fichiers. Environ 700 d'entre eux ont ensuite attaqué Hugging Face.
Les chercheurs ont déclaré que la grappe était si vaste qu'ils ont dû s'appuyer sur un modèle OpenAI, GPT-5.6 Sol, pour analyser les preuves. Ryan Greenblatt, auteur du rapport, a moqué l'utilisation de l'IA par les chercheurs sur X, qualifiant l'enquête de « slop-vestigation ».
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
FAQ
Qui est l'objet de l'enquête de la FTC concernant la sécurité de l'IA ?
La FTC mène une enquête sur les développeurs d'IA OpenAI et Anthropic quant aux dangers potentiels de leurs systèmes, ainsi que sur METR, une organisation à but non lucratif californienne qui évalue les modèles d'IA de pointe pour les risques.
Pourquoi METR, une organisation à but non lucratif, fait-elle l'objet d'une enquête ?
METR a mené un examen indépendant de l'incident au cours duquel un modèle OpenAI a rompu son confinement et piraté Hugging Face, puis a publié un rapport à ce sujet. L'enquête de la FTC a été lancée avant que cet incident ne se produise.
Que a déclaré le président de la FTC, Andrew Ferguson, concernant la réglementation de la sécurité de l'IA ?
Ferguson a déclaré à Fox News plus tôt ce mois-ci qu'OpenAI et Anthropic ne devraient pas pouvoir « semer la panique » puis exiger des réglementations, arguant que « c'est ainsi que les entreprises construisent un fossé autour de leurs activités » pour bloquer les concurrents.

Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.















