Vitalik dénonce le double standard dans le dilemme de la réglementation sur la sécurité de l'IA

Vitalik Buterin a fait part de ses inquiétudes concernant l’utilisation de plus en plus controversée du concept théorique de « sécurité de l’IA » par les entreprises et les gouvernements. 

Buterin a expliqué sur la plateforme de médias sociaux X que les entreprises leaders dans le domaine de l'IA, comme Anthropic, ne peuvent pas dicter quelles mesures sont appropriées ou non pour la sécurité, car cela conduit à un système où les règles sont élaborées par les plustron.

peut-elle La « sécurité de l'IA » être utilisée comme outil de domination mondiale ?

Vitalik Buterin a récemment utilisé la plateforme de médias sociaux X pour partager ses inquiétudes quant à l' appropriation par les grandes entreprises et les intérêts nationaux.

Par exemple, Anthropic a récemment été félicitée pour avoir refusé d'autoriser le Département du bien-être (DoW) ou d'autres entités gouvernementales à utiliser ses modèles Claude pour la surveillance de masse ou l'armement entièrement autonome.

de suspension des risques en matière de sécurité, engagement l'obligeait à interrompre inconditionnellement toute formation et tout déploiement jusqu'à ce que les mesures de sécurité soient mises en place si jamais elle développait un modèle d'IA dont les capacités dépassaient sa capacité à prouver que le modèle était sûr.

Vitalik a souligné que les critiques formulées précédemment par Anthropic à l'encontre de ses concurrents, accusés de s'inspirer des résultats de Claude, avaient suscité de vives réactions de la part des critiques, notamment en Chine, qui ont fait valoir que Claude lui-même avait entraîné ses modèles grâce à l'immense quantité de connaissances publiques disponibles sur Internet.

Anthropic affirme que son problème avec ses concurrents open source est qu'ils manquent de garde-fous nécessaires et présentent des risques, mais pourquoi Anthropic le droit de décider quelles mesures de sécurité sont appropriées ?

Buterin a déclaré que les actions d'Anthropic suggèrent un système où « les règles sont élaborées par le gesttron»

Il a exprimé la crainte que si la sécurité de l'IA devenait indiscernable d'une mentalité du type « notre entreprise/notre pays mérite de diriger le monde », cela créerait un monde plus dangereux.

Il soutient que si les réglementations en matière de sécurité exemptent inévitablement les organismes de sécurité nationale, ces réglementations deviendront fragiles. Ce point est d'autant plus pertinent que des informations récentes confirment que les grands laboratoires d'IA recherchent de plus en plus des partenariats de plusieurs milliards de dollars avec destracde défense afin de fournir des environnements d'IA sécurisés à des fins militaires.

Est-il dangereux de restreindre l'IA ?

Il y a quelques années, Vitalik est devenu l'un des plus importants donateurs du Future of Life Institute (FLI). En 2021, les créateurs du jeton lui ont offert une quantité considérable de jetons Shiba Inu (SHIB). Au plus fort de la bulle spéculative autour de ces jetons, leur valeur comptable dépassait le milliard de dollars. Vitalik s'est empressé de faire don des fonds avant que les intérêts ne baissent et a ainsi versé environ 500 millions de dollars en SHIB au FLI.

À l'époque, le FLI se concentrait sur des risques tels que les menaces biologiques et la guerre nucléaire. Depuis, le FLI a réorienté ses efforts vers une action politique et un lobbying agressifs, prônant souvent des réglementations que Vitalik juge préoccupantes. Il s'oppose notamment à leur volonté d'intégrer des mécanismes de contrôle dans les modèles d'IA afin qu'ils refusent les « éléments dangereux ».

Vitalik considère ces restrictions comme des solutions fragiles car elles peuvent être facilement contournées par le jailbreak ou un réglage fin.

Plus important encore, il craint que ces stratégies ne mènent à un scénario catastrophe où l'IA open source serait interdite afin de maintenir un monopole des « gentils ».

Vitalik prône quant à lui un système appelé accélérationnisme défensif (d/acc). Cette philosophie suggère que la meilleure façon de gérer les technologies dangereuses est de concevoir et de rendre accessibles au public, au préalable, les systèmes de protection.

Il a récemment alloué 40 millions de dollars à des projets tels que le matériel sécurisé, la biodéfense et la cybersécurité afin de soutenir son idéologie.

Le matériel sécurisé rend les puces informatiques inviolables, les empêchant ainsi d'être utilisées pour l'espionnage de masse. La biodéfense repose sur le développement de systèmes de filtration d'air avancés et de tests PCR passifs pour détecter et enrayer précocement les pandémies. Les investissements en cybersécurité amélioreront la vérifiabilité des logiciels, empêchant ainsi les attaques pilotées par l'IA de paralyser facilement les infrastructures critiques.