Le président de la FTC, qui avait qualifié les craintes liées à la sécurité de l'IA de « fossé », enquête désormais sur OpenAI et Anthropic concernant la sécurité
- La FTC a ouvert une vaste enquête afin de déterminer si les systèmes d'IA d'OpenAI et d'Anthropic mettent en danger les consommateurs.
- L'organisme d'audit de sécurité METR a été inclus dans une cible et des demandes similaires à des assignations à comparaître à l'encontre des trois entreprises sont attendues dans les prochaines semaines.
- Cette enquête contredit les propres affirmations du président de la FTC, Andrew Ferguson, selon lesquelles les craintes en matière de sécurité constituent un « avantage concurrentiel » majeur, et elle intervient quelques jours après que la Maison Blanche a célébré l'autorégulation volontaire.
Un haut responsable a confirmé que la Federal Trade Commission (FTC) a ouvert une enquête pour déterminer si les systèmes d'IA développés par OpenAI et Anthropic présentent des dangers pour les consommateurs américains.
METR, l'organisation californienne à but non lucratif qui audite les modèles d'IA de pointe en matière de risques, est également impliquée dans l'enquête.
Les demandes d'enquête civile formelles devraient parvenir aux trois organisations, OpenAI, Anthropic et METR, dans les prochaines semaines.
Pourquoi la FTC enquête-t-elle sur OpenAI et Anthropic ?
Un haut responsable anonyme de la FTC a indiqué que l'agence utilise son pouvoir pour lutter contre les pratiques déloyales et trompeuses en enquêtant sur les risques que les systèmes d'IA développés par OpenAI et Anthropic présentent pour les consommateurs américains.
L'enquête a été révélée par le New York Post. Aucune annonce officielle n'ayant été faite par l'agence, l'étendue exacte de l'enquête reste floue. La FTC devrait adresser des demandes d'enquête civile, un outil similaire à une assignation, à OpenAI, Anthropic et METR dans les prochaines semaines.
L'inclusion de METR est remarquable car il s'agit d'une organisation à but non lucratif qui évalue les risques liés aux systèmes d'IA, et non d'un concepteur de modèles. METR a mené une analysedent d'undent de sécurité survenu plus tôt cette année, au cours duquel un modèle OpenAI a contourné son confinement et attaqué la plateforme open source Hugging Face.
Le président de la FTC, Andrew Ferguson, a déclaré au début du mois qu'il ne fallait pas laisser OpenAI et Anthropic « semer la panique » puis exiger des réglementations qu'elles sont parfaitement en mesure de respecter.
Dans une déclaration de janvier 2025 concernant une étude de la FTC sur les partenariats des géants de la tech en matière d'IA, Ferguson a averti que l'agence « ne doit pas se précipiter pour réglementer l'IA », arguant que des règles trop strictes pourraient étouffer l'innovation et le développement de cette technologie.
Cryptopolitan a rapporté que Ferguson a rejeté l'idée qu'une entreprise ne puisse être tenue pour responsable lorsqu'un agent autonome cause un préjudice. Il a affirmé que les pouvoirs de divulgation des violations de données de la FTC pourraient être utilisés contre les développeurs d'IA.
Quel accord les dirigeants de l'IA ont-ils conclu avec Trump ?
Ledent Donald Trump a récemment réuni des dirigeants du secteur de l'IA et signé un accord volontaire. Aux termes de cet accord, les entreprises mettront en place des contrôles internes, accepteront des audits externes et autoriseront leurs conseils d'administration à examiner leurs modèles.
Trump a félicité le secteur pour son « formidable autorégulation » et a qualifié le pacte de « moralement contraignant », voire de « quasi-constitutionnel »
Plusieurs dirigeants de grandes entreprises technologiques ont signé l'accord, dont Dario Amodei d'Anthropic, Greg Brockman d'OpenAI, Sundar Pichai de Google, Mark Zuckerberg de Meta, Elon Musk de xAI et Jensen Huang de Nvidia.
Toby Walsh, de l'Institut d'IA de l'UNSW, a déclaré que les entreprises spécialisées en IA avaient déjà prouvé leur « incompétence et leur négligence en matière de gestion interne »
Il est à noter que METR a été classée parmi les cibles suite à une faille de sécurité survenue durant l'été. Le rapport de METR publié en août indique que des enquêteurs de METR et de Redwood Research ont passé six jours sur le site d'OpenAI pour examiner un incident au cours duquel environ 1 200 agents, censés fonctionner de manière isolée, ont découvert un forum de discussion partagé et échangé plus de 70 000 messages et fichiers. Environ 700 d'entre eux ont ensuite attaqué Hugging Face.
Les chercheurs ont indiqué que l'essaim était si vaste qu'ils ont dû recourir à un modèle OpenAI, GPT-5.6 Sol, pour analyser les données. Ryan Greenblatt, auteur du rapport, a ironisé sur l'utilisation de l'IA par les chercheurs, qualifiant l'enquête de « bricolée »
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
FAQ
Qui la FTC enquête-t-elle sur la sécurité de l'IA ?
La FTC enquête sur les développeurs d'IA OpenAI et Anthropic en raison des dangers potentiels de leurs systèmes, ainsi que sur METR, une organisation californienne à but non lucratif qui évalue les risques liés aux modèles d'IA de pointe.
Pourquoi METR, une organisation à but non lucratif, fait-elle l'objet d'une enquête ?
METR a mené une enquêtedent sur l'dent au cours duquel un modèle d'OpenAI a contourné le confinement et piraté Hugging Face, et a publié un rapport à ce sujet. L'enquête de la FTC a été lancée avant que cetdent ne se produise.
Qu’a déclaré Andrew Ferguson, président de la FTC, au sujet de la réglementation de la sécurité de l’IA ?
Plus tôt ce mois-ci, Ferguson a déclaré à Fox News qu'OpenAI et Anthropic ne devraient pas pouvoir « semer la panique » et ensuite exiger des réglementations, arguant que c'est ainsi que « les entreprises se protègent » contre la concurrence.
Hannah Collymore
Hannah est rédactrice et éditrice, forte d'une expérience de près de dix ans dans la rédaction de blogs et la couverture d'événements liés aux cryptomonnaies. Chez Cryptopolitan, elle contribue à la page d'actualités en rédigeant des articles et en analysant les dernières évolutions de la finance décentralisée DeFi, des comptes gérés par les utilisateurs (RWA), de la réglementation des cryptomonnaies, de l'intelligence artificielle (IA) et des technologies de pointe. Elle est diplômée en administration des affaires de l'université Arcadia.
