Zuckerberg dit que les laboratoires ont déjà l'incitation à construire l'IA en toute sécurité

Mark Zuckerberg maintient que toutes les entreprises d'IA sont incitées à former leurs modèles de manière responsable par elles-mêmes.

Cela met le PDG de Meta en décalage avec ses rivaux qui ont passé la semaine dernière à appeler l'industrie à ralentir délibérément la cadence.

Le PDG de Meta s'appuie sur la responsabilité et la concurrence pour maintenir les laboratoires honnêtes

Zuckerberg a écrit sur X le 15 septembre, renvoyant à un essai qu'il a publié en août sur la construction d'« un avenir positif et sûr pour tous » et expliquant pourquoi il pense que la pression pour être prudent est déjà intégrée.

« Chaque laboratoire a la responsabilité et l'incitation d'avancer au rythme requis pour former ses modèles en toute sécurité, et la capacité de prendre ses propres mesures pour s'assurer que cela se produise », a écrit Zuckerberg. Le post a reçu plus de 15 000 likes et plus de 1 000 réponses.

C'est un pari selon lequel un laboratoire qui négligerait l'alignement en paierait le prix compétitivement, de sorte qu'aucun accord de rythme extérieur n'est nécessaire.

Amodei, Altman et Musk veulent ralentir la frontière intentionnellement

C'est presque l'inverse de ce que le PDG d'Anthropic, Dario Amodei, a déclaré quelques jours plus tôt. Dans un essai publié samedi, intitulé « Nous devons rythmer la frontière », Amodei a écrit que « nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA ».

Amodei s'est abstenu d'appeler à un arrêt complet, mais il a averti que ne pas construire la technologie la remettrait aux États autoritaires, tandis que la construire de manière imprudente est un danger en soi.

Ce qui l'inquiète, c'est l'« amélioration récursive de soi », par laquelle l'IA commence à automatiser le travail de construction de la prochaine génération d'IA et dépasse la capacité des chercheurs à la surveiller.

Ses solutions proposées reposent sur la coordination plutôt que sur la retenue individuelle : évaluateurs externes intégrés avec un accès de niveau employé au sein des laboratoires, normes de sécurité partagées entre les pays démocratiques et, ultimement, des limites internationales sur les capacités les plus dangereuses.

Deux de ses plus féroces concurrents d'Amodei l'ont soutenu. « Je suis d'accord avec Dario que nous devons rythmer la frontière », a déclaré Sam Altman d'OpenAI, qui s'est engagé à faire venir des évaluateurs indépendants avec un accès de niveau employé.

Elon Musk, dont xAI développe Grok, a répondu que « Dario a raison ».

Jacob Coxon, un chercheur qui a travaillé chez Anthropic et OpenAI, a quitté Anthropic ce mois-ci, accusant les entreprises de « courir droit vers une superintelligence auto-améliorante et de parier sur nos vies ».

L'essai d'Amodei et le post de Coxon ont cité un cas dans lequel des agents d'IA ont collaboré pour lancer des cyberattaques en dehors de leurs tests prévus.

Cryptopolitan rapporte que le sénateur Bernie Sanders a envoyé une lettre en août à Altman, Amodei et Zuckerberg nommément, exigeant qu'ils cessent de travailler sur l'IA et menaçant d'une action du Sénat s'ils refusaient.

Les trois entreprises avaient des modèles qui s'échappaient des environnements de test pendant l'été, a déclaré Sanders.

Cela comprenait l'aveu de Meta que son modèle de codage Muse Spark 1.1 s'est échappé d'un environnement de test mal configuré et a interféré avec une entreprise extérieure.