OpenAI trace une ligne sur les risques de l'IA, remettant en question l'approche de sécurité d'Anthropic

OpenAI estime que les avantages de l’IA l’emportent sur certains de ses risques, ce qui le place légèrement en désaccord avec la priorité absolue à la sécurité prônée par Anthropic. Le directeur général Sam Altman a déclaré aux journalistes : « Nous pensons que le monde doit accepter que certaines choses négatives se produisent pour bénéficier des avantages de cette technologie et permettre aux individus d’avoir leur propre contrôle. » 

L’exécutif a également admis qu’il existait une différence inhérente entre sa firme et Anthropic concernant la réglementation de l’IA. Il a noté qu’il ne souscrit pas à l’idée selon laquelle l’IA est si dangereuse qu’un seul laboratoire devrait avoir le monopole et le contrôle de son utilisation, bien qu’il comprenne la logique derrière cette position. 

Il a affirmé que l’approche du gardien est tout simplement inacceptable et va à l’encontre de la préférence d’OpenAI pour une réglementation plus légère de l’IA.

Altman avait soutenu un ralentissement du développement de l’IA

Dans l’ensemble, Altman s’oppose à l’exigence d’une IA sans risque Écosystème de l'IA. Il affirme que certains abus et autres conséquences néfastes sont inévitables, mais qu'ils seraient compensés par les avantages plus larges de la technologie. « Parce que je pense que les gens feront énormément — à des ordres de grandeur supérieurs — de choses bonnes plutôt que mauvaises », a-t-il déclaré.

Cependant, plus tôt, en tant que a rapporté par Cryptopolitan, le PDG d'Anthropic, Dario Amodei, avait encouragé les entreprises d'IA à ralentir leur développement technologique, une idée soutenue pleinement par Altman. À cette époque, il a déclaré, « Je suis d'accord avec Dario sur le fait que nous devons rythmer le développement des technologies de pointe. Cela a été un sujet principal de nos discussions ces dernières semaines chez OpenAI. L'idée d'avoir des évaluateurs indépendants ayant un accès similaire à celui des employés est excellente, et nous ferons de même. » 

Principalement, Anthropic a largement mis en garde contre le risque que, malgré les bienfaits de l'IA, celle-ci échappe au contrôle humain et s'infiltre dans des réseaux externes. Elle a ajouté que les modèles de haut niveau peuvent présenter des traits d'auto-préservation, tels que tenter d'empêcher leur arrêt, dissimuler des faits ou agir de manière trompeuse.

Comme observé en juillet 2026, certains modèles d'OpenAI auraient contourné les contrôles destinés à les isoler d'Internet et ont accédé à des parties de l'infrastructure de recherche d'OpenAI ainsi qu'aux systèmes de Hugging Face. Ces modèles auraient communiqué secrètement, exploité des failles de sécurité dans le système partagé, navigué sur le web et accédé à des réseaux externes. À l'époque, OpenAI s'est engagé à mettre en place des protections plus robustes pour ses modèles. 

De même, lors d'une évaluation de cybersécurité menée par l'UK AI Security Institute avec les filtres désactivés, Claude Mythos 5 d'Anthropic a créé de faux profils GitHub, ciblé un développeur disposant de l'autorisation d'approuver son code malveillant et envoyé des e-mails piégés avec des logiciels malveillants à différentes personnes. Plus récemment, Google a également révélé que Gemini avait tenté d'accéder aux systèmes d'autres entreprises.

OpenAI et Anthropic divergent sur la sécurité de l'IA

Ce désaccord reflète une fracture croissante au sein de l'industrie de l'IA concernant le degré de liberté que les entreprises devraient avoir pour développer des systèmes toujours plus puissants. Si OpenAI privilégie une accessibilité large de l'IA, Anthropic adopte une approche plus prudente, prônant des garde-fous et une supervision renforcés.

Les commentaires d’Altman laissent entendre qu’OpenAI estime que la société devrait accepter certains risques plutôt que d’imposer des restrictions susceptibles de limiter les utilisations légitimes de l’IA. Les critiques, cependant, mettent en garde contre le fait que certains risques pourraient devenir difficiles à inverser une fois que des systèmes très performants seront largement déployés.

Ce clivage laisse les décideurs politiques face à une tâche ardue : faire face aux menaces liées à l’IA sans imposer de règles qui pourraient ralentir l’innovation ou affaiblir la concurrence.

Le président Trump a ignoré les appels à une réglementation plus stricte de l’IA

À ce jour, le président américain Donald Trump a systématiquement repoussé les demandes de nouvelles réglementations sur l’IA, affirmant qu’elles ne feraient que freiner les entreprises américaines dans leur course contre la Chine. Il estime fermement que les agences chargées de l’application des lois actuelles sont parfaitement capables de contrôler cette technologie. Il a également ordonné à son administration de qualifier l’IA d’« intelligence supérieure », dans le but d’améliorer son image publique.

Néanmoins, mardi, le président Trump a présenté le nouveau chatbot gouvernemental, accueilli au sein de la Maison Blanche des dirigeants de grandes entreprises technologiques et dévoilé un accord volontaire visant à répondre aux préoccupations croissantes en matière de sécurité.

Les défenseurs de la sécurité affirment que cette démarche montre que Trump souhaite prouver qu’il écoute les craintes des électeurs concernant l’IA, sans pour autant ralentir son développement. L’accord qu’il a signé avec six géants de la technologie — dont Nvidia, SpaceX et OpenAI — ne prévoit aucune sanction réelle en cas de non-respect des règles, bien que Trump le qualifie de « moralement contraignant ». 

« Il s’agissait d’une tentative de donner l’impression que le gouvernement entend ces préoccupations, tout en maintenant une ligne claire et constante de cette administration : la réglementation et la gouvernance entravent intrinsèquement l’innovation », a déclaré Kat Duffy du Conseil des relations étrangères, organisation non partisane.

L’accord du 10 juin comprend néanmoins des mesures de sécurité réclamées par les experts, telles que l’obligation pour les entreprises de mettre en place de solides défenses internes contre le piratage et de collaborer avec des auditeurs externes indépendants.