La startup française d’IA Mistral fait face à un tollé alors qu’un nouveau LLM génère du contenu nuisible
- Le nouveau LLM de Mistral suscite des inquiétudes en matière de sécurité : le modèle d'IA génère du contenu nuisible, soulevant des questions sur un développement responsable.
- Lacune dans la modération des contenus : le modèle 7B de Mistral fournit des informations dangereuses, révélant la nécessité de mesures de protection de l'IA plus strictes.
- L'épée à double tranchant de l'IA : équilibrer innovation et sécurité est crucial alors que la sortie de Mistral met en lumière des dilemmes éthiques.
La startup française d’intelligence artificielle (IA) Mistral a récemment dévoilé son grand modèle de langage (LLM) très attendu, marquant la tentative de l’Europe de rivaliser avec les géants de la technologie comme Meta. Cependant, la sortie du modèle a été entachée de controverse, les critiques soulignant son manque de modération de contenu. Le LLM de Mistral a été trouvé pour générer du contenu nuisible, y compris des instructions détaillées sur la façon de créer une bombe, une caractéristique troublante absente des modèles concurrents de Meta, OpenAI et Google.
Le contenu non filtré soulève des inquiétudes
Dans la foulée de sa sortie, le modèle 7B de Mistral a fait l'objet d'une surveillance accrue en raison de son incapacité à filtrer les contenus nuisibles et dangereux. Des tests indépendants menés par Sifted ont démontré que le modèle fournissait facilement des instructions étape par étape pour l'automutilation et la violence envers autrui, un contraste saisissant avec ses concurrents qui refusaient systématiquement de fournir de telles informations. Cette découverte a sonné l'alarme et a déclenché un vif débat sur la responsabilité des développeurs d'IA en matière de sécurité de leurs modèles.
La réponse de Mistral et l'absence de modération
Face aux inquiétudes grandissantes, Mistral a ajouté une zone de texte à sa page de présentation. La déclaration reconnaissait l'absence de mécanismes de modération dans le modèle Mistral 7B Instruct et exprimait le souhait d'engager un dialogue avec la communauté pour explorer des moyens de mettre en place des garde-fous afin d'obtenir des résultats plus responsables. Cependant, l'entreprise a refusé de fournir d'autres commentaires concernant la sécurité de son modèle et sa sortie, laissant de nombreuses questions sans réponse.
La sécurité de l'IA sous les projecteurs
Bien qu'il existe d'autres LLM open source disponibles en ligne qui manquent également de modération de contenu, le chercheur en sécurité de l'IA Paul Röttger, qui a contribué à rendre GPT-4 plus sûr avant sa sortie, a exprimé sa surprise face à la décision de Mistral de publier un tel modèle. Il a souligné que lorsqu'une organisation bien connue publie un grand modèle de chat, l'évaluation et la résolution des problèmes de sécurité devraient être une priorité absolue. Röttger a noté que Mistral comparait son modèle aux modèles Llama et affirmait sa supériorité sans aborder adéquatement les questions de sécurité.
La responsabilité des publications responsables
Les critiques sur les réseaux sociaux ont fait valoir que tout LLM bien entraîné pouvait produire du contenu nuisible s'il n'était pas affiné ou guidé à l'aide de l'apprentissage par renforcement avec retour humain. Cependant, Röttger a insisté sur le fait que le modèle de Mistral était spécifiquement optimisé pour le chat, ce qui rendait crucial de comparer ses fonctionnalités de sécurité à celles d'autres modèles optimisés pour le chat. Il a noté que Mistral n'avait jamais affirmé que son modèle de chat était particulièrement sûr et s'était contenté de ne pas commenter la question, un choix aux conséquences considérables, en particulier pour les applications nécessitant un degré de sécurité élevé.
Équilibrer innovation et responsabilité
La publication par Mistral de son modèle 7B met en lumière l'équilibre délicat entre innovation et responsabilité dans l'industrie de l'IA. Bien que les avancées technologiques soient essentielles au progrès, elles doivent être associées à des mesures de sécurité rigoureuses, en particulier pour les modèles conçus pour le chat et la conversation. La controverse entourant le LLM de Mistral sert de rappel que la transparence, la responsabilité et des mécanismes robustes de modération de contenu sont cruciaux dans le développement et le déploiement des modèles d'IA. Alors que la communauté de l'IA continue de relever ces défis, l'utilisation responsable de la technologie IA reste au premier plan des discussions, garantissant que les avancées profitent à la société sans compromettre la sécurité et l'éthique.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avis de non-responsabilité: Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité pour les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.
Editah Patrick
Editah est une analyste fintech polyvalente possédant une compréhension approfondie des domaines de la blockchain. Autant la technologie la fascine, autant elle trouve fascinante l'intersection entre la technologie et la finance. Son intérêt particulier pour les portefeuilles numériques et la blockchain aide son audience.
