Les sénateurs américains critiquent la publication « incontrôlée » de l'IA par Meta

Deux sénateurs américains, Richard Blumenthal et Josh Hawley, ont exprimé leurs préoccupations concernant le PDG de Meta, Mark Zuckerberg, et le modèle d'intelligence artificielle « fuité » de la géante technologique, appelé LLaMA. Les sénateurs soutiennent que LLaMA présente des dangers potentiels et pourrait être exploité à des fins criminelles.

Dans une lettre datée du 6 juin, les sénateurs ont critiqué la décision de Zuckerberg d'ouvrir le code source de LLaMA et ont affirmé qu'il y avait des mesures de sécurité insuffisantes dans la publication du modèle d'IA par Meta. Bien qu'ils aient reconnu les avantages des logiciels open source, ils ont soutenu que la publication de LLaMA par Meta manquait d'une considération approfondie des conséquences potentielles, ce qu'ils ont jugé préjudiciable au public.

Initialement, LLaMA avait une publication en ligne limitée aux chercheurs. Cependant, il a ensuite été fuité en intégralité par un utilisateur du site de forum d'images 4chan fin février. Les sénateurs ont exprimé leur alarme que le modèle complet soit devenu facilement disponible sur BitTorrent, sans aucun suivi ou supervision, accessible à quiconque dans le monde entier. Blumenthal et Hawley ont affirmé que LLaMA pourrait être facilement adopté par des spammeurs, des cybercriminels et des personnes impliquées dans des activités frauduleuses ou la distribution de contenu répréhensible.

Préoccupations des sénateurs américains

Pour souligner leurs préoccupations, les sénateurs ont contrasté LLaMA avec deux modèles à source fermée : ChatGPT-4 d'OpenAI et Bard de Google. Ils ont noté que tandis que ChatGPT-4, lorsqu'on lui demandait de générer une note se faisant passer pour le fils de quelqu'un demandant de l'argent, refuserait la demande sur la base de directives éthiques, LLaMA produirait la lettre demandée ainsi que des réponses impliquant l'automutilation, le crime et l'antisémitisme. Cette distinction a soulevé des inquiétudes quant au potentiel de LLaMA à générer du matériel abusif.

Bien que ChatGPT soit programmé pour rejeter certaines demandes, les utilisateurs ont trouvé des moyens de « pirater » le modèle et de lui faire générer des réponses qu'il refuserait normalement. Les sénateurs ont interrogé Zuckerberg sur le fait de savoir si des évaluations des risques avaient été menées avant la publication de LLaMA, quelles mesures Meta a prises pour prévenir ou atténuer les dommages depuis la fuite, et comment Meta utilise les données des utilisateurs pour la recherche en IA, entre autres questions.

Il convient de noter qu'OpenAI, sous la pression des avancées réalisées par d'autres modèles open source, travaillerait sur son propre modèle d'IA open source. Un document fuité rédigé par un ingénieur logiciel senior de Google a mis en évidence les progrès réalisés par ces modèles open source.

L'ouverture du code source d'un modèle d'IA permet de le personnaliser pour servir des objectifs spécifiques et facilite les contributions d'autres développeurs. Cependant, les préoccupations soulevées par les sénateurs Blumenthal et Hawley soulignent la nécessité d'approches responsables et réfléchies en matière de publication et de surveillance des modèles d'IA pour prévenir les abus potentiels et les dommages.