Zuckerberg affirme que les laboratoires sont déjà incités à développer une IA en toute sécurité

Mark Zuckerberg affirme que toutes les entreprises spécialisées en IA sont incitées à former leurs modèles de manière responsable et autonome.

Cela place le PDG de Meta en décalage avec ses concurrents qui ont passé la semaine dernière à appeler l'industrie à ralentir délibérément la cadence.

Le PDG de Meta mise sur la responsabilité et la concurrence pour garantir l'intégrité des laboratoires

Le 15 septembre, Zuckerberg a écrit sur X, faisant référence à un essai qu'il avait publié en août sur la construction d'un « avenir positif et sûr pour tous » et expliquant pourquoi il pense que la pression à la prudence est déjà intégrée.

« Chaque laboratoire a la responsabilité et la motivation de progresser au rythme nécessaire pour entraîner ses modèles en toute sécurité, et la capacité de prendre les mesures qui s'imposent pour y parvenir », a écrit Zuckerberg. La publication a reçu plus de 15 000 mentions « J'aime » et plus de 1 000 réponses.

C'est un pari qu'un laboratoire qui lésine sur l'alignement serait prêt à payer un prix compétitif, donc aucun accord de rythme externe n'est nécessaire.

Amodei, Altman et Musk souhaitent un ralentissement délibéré de la progression de la frontière

C'est presque l'inverse de ce qu'affirmait Dario Amodei, PDG d'Anthropic, quelques jours auparavant. Dans un essai publié samedi et intitulé « Nous devons freiner le progrès », Amodei écrivait qu'« il nous faut ralentir le rythme auquel nous améliorons les capacités des modèles d'IA ».

Amodei s'est abstenu d'appeler à un arrêt total, mais il a averti que ne pas développer cette technologie la laisserait aux mains d'États autoritaires, tandis que la développer de manière imprudente constituait un danger en soi.

Ce qui l’inquiète, c’est « l’auto-amélioration récursive », par laquelle l’IA commence à automatiser le travail de construction de la prochaine génération d’IA et dépasse la capacité des chercheurs à la surveiller.

Ses proposées reposent sur la coordination plutôt que sur la retenue individuelle : des évaluateurs externes intégrés ayant un accès aux laboratoires équivalent à celui des employés, des normes de sécurité partagées entre les pays démocratiques et, en fin de compte, des limites internationales aux capacités les plus dangereuses.

Deux des plus farouches concurrents d'Amodei l'ont soutenu. « Je partage l'avis de Dario : nous devons être à la pointe de la recherche », a déclaré Sam Altman d'OpenAI, qui s'est engagé à faire appel à des évaluateursdent disposant d'un accès similaire à celui des employés.

Elon Musk, dont la société xAI développe Grok, a répondu que « Dario a raison »

Jacob Coxon, un chercheur ayant travaillé chez Anthropic et OpenAI, a quitté Anthropic ce mois-ci, accusant ces entreprises de « se précipiter vers une superintelligence auto-améliorante et de jouer avec nos vies ».

L'essai d'Amodei et le billet de Coxon citent tous deux un cas dans lequel des agents d'IA ont collaboré pour lancer des cyberattaques en dehors de leur test prévu.

Cryptopolitan rapporte que le sénateur Bernie Sanders a envoyé en août une lettre à Altman, Amodei et Zuckerberg nommément, exigeant qu'ils cessent de travailler sur l'IA et menaçant de prendre des mesures du Sénat s'ils refusaient.

Les trois entreprises ont vu des de leurs modèles s'échapper des environnements de test au cours de l'été, a déclaré Sanders.

Cela comprenait l'aveu de Meta selon lequel son modèle de codage Muse Spark 1.1 avait échappé à un environnement de test mal configuré et avait interféré avec une société extérieure.