Vitalik dénonce les doubles standards dans le dilemme de la réglementation de la sécurité de l'IA

Vitalik Buterin a partagé des préoccupations concernant les utilisations de plus en plus controversées du concept théorique de « sécurité de l'IA » par les entreprises et les gouvernements. 

Buterin a expliqué sur la plateforme de réseaux sociaux X que les entreprises leaders dans le domaine de l'IA, comme Anthropic, ne peuvent pas dicter quelles mesures sont appropriées ou non pour la sécurité, car cela conduit à un système où les règles sont élaborées par le plus fort.

Peut « Sécurité de l'IA » être utilisé comme un outil de domination mondiale ?

Vitalik Buterin s'est récemment exprimé sur la plateforme de réseaux sociaux X pour partager ses préoccupations concernant le concept de sécurité de l'IA approprié par de grandes entreprises et des intérêts nationaux.

Par exemple, Anthropic a récemment reçu des éloges pour avoir refusé d'autoriser le Département du Bien-être (DoW) ou d'autres entités gouvernementales à utiliser ses modèles Claude pour la surveillance de masse ou des armes entièrement autonomes.

Cependant, l'entreprise a également annulé son engagement de sécurité de pause sur les risques qui obligeait l'entreprise à suspendre inconditionnellement tout entraînement et déploiement jusqu'à ce que les mesures de sécurité rattrapent si elle développait un modèle d'IA dont les capacités dépassaient la capacité de l'entreprise à prouver que le modèle était sûr.

Vitalik a souligné que la critique précédente d'Anthropic envers ses concurrents pour avoir appris à partir des sorties de Claude a suscité une vive réaction de la part des critiques, en particulier en Chine, qui ont soutenu que Claude lui-même avait entraîné ses modèles sur la vaste connaissance publique d'Internet.

Anthropic affirme que son problème avec les concurrents open-source est qu'ils manquent des garde-fous de sécurité nécessaires et présentent des risques, mais pourquoi Anthropic décide-t-il de quelles mesures de sécurité sont appropriées ?

Buterin a déclaré que les actions d'Anthropic suggèrent un système où « les règles sont élaborées par le plus fort ».

Il exprime la crainte que si la sécurité de l'IA devient indistinguable d'une mentalité « notre entreprise/notre pays mérite de diriger le monde », cela créera un monde plus dangereux.

Il soutient que si les réglementations de sécurité exemptent inévitablement les organisations de sécurité nationale, les réglementations deviendront fragiles. Cela est particulièrement pertinent car les récentes nouvelles confirment que les principaux laboratoires d'IA recherchent de plus en plus des partenariats de plusieurs milliards de dollars avec des contractants de la défense pour fournir des environnements IA sécurisés à usage militaire.

Restreindre l'IA est-il dangereux ?

Il y a plusieurs années, Vitalik est devenu l'un des plus grands donateurs de l'Institut pour l'Avenir de la Vie (FLI). En 2021, il a reçu une énorme quantité de jetons Shiba Inu (SHIB) des créateurs du token. Lorsque la bulle du dog coin était à son apogée, la valeur comptable dépassait 1 milliard de dollars. Vitalik s'est précipité pour faire don des fonds avant que les intérêts ne diminuent et a envoyé environ 500 millions de dollars en SHIB au FLI.

À l'époque, l'FLI se concentrait sur des risques tels que les menaces biologiques et la guerre nucléaire. Cependant, l'FLI a depuis orienté son focus vers une action politique agressive et du lobbying, poussant souvent à des réglementations que Vitalik trouve inquiétantes. Plus précisément, il n'est pas d'accord avec leur focus sur la mise en place de garde-fous dans les modèles d'IA pour les empêcher de refuser « les mauvaises choses ».

Vitalik considère ces restrictions comme des solutions fragiles car elles peuvent être facilement contournées par le jailbreaking ou le fine-tuning.

Plus important encore, il craint que ces stratégies ne conduisent à un endroit sombre où l'IA open-source serait bannie pour maintenir un monopole de « bonne personne ».

Vitalik plaide plutôt pour un système appelé accélérationnisme défensif (d/acc). Cette philosophie suggère que le meilleur moyen de gérer les technologies dangereuses est de construire et de mettre en open-source les boucliers en premier.

Il a récemment alloué 40 millions de dollars à des projets tels que le matériel sécurisé, la biodéfense, et la cybersécurité pour soutenir son idéologie.

Le matériel sécurisé rend les puces informatiques inviolables, empêchant ainsi leur utilisation pour l'espionnage de masse. La biodéfense implique le développement de filtres à air avancés et de tests PCR passifs pour détecter et stopper les pandémies précocement. Les investissements dans la cybersécurité amélioreront la vérifiabilité des logiciels afin que les attaques pilotées par l'IA ne puissent pas facilement mettre hors service les infrastructures critiques.