Le gouvernement indien demande à X de corriger Grok concernant son contenu obscène lié à l'IA

Le gouvernement indien a ordonné à la plateforme de blogs X, propriété d'Elon Musk, de modifier son chatbot d'intelligence artificielle Grok en raison de contenus obscènes. Le pays exige que la plateforme apporte des modifications techniques et procédurales immédiates au chatbot après que des utilisateurs et des législateurs ont signalé plusieurs cas de contenus obscènes.

Selon les autorités indiennes, des cas d'utilisation du chatbot pour créer des images obscènes, notamment des images de femmes retouchées par intelligence artificielle, ont été recensés. Le ministère indien des Technologies de l'information a émis un ordre vendredi, enjoignant la plateforme Grok à prendre des mesures correctives concernant son fonctionnement. Il a notamment demandé de limiter la production de contenus à caractère « nudité, sexualisation, contenu sexuellement explicite ou autrement illégal ». Le ministère a également donné à la plateforme un ultimatum de 72 heures pour mettre en œuvre ces modifications.

Le gouvernement indien ordonne à X d'apporter des modifications techniques à Grok

Dans le cadre de son ultimatum de 72 heures, le ministère a également demandé à X de soumettre un rapport détaillant les mesures prises pour empêcher l'hébergement ou la diffusion de contenus indécents. Ces contenus incluent les contenus « obscènes, pornographiques, vulgaires, indécents, à caractère sexuel explicite, pédophiles ou autrement interdits par la loi ». L'ordonnance avertit que si la plateforme ne respecte pas ses obligations, elle pourrait perdre sa protection juridique.

La décision de l'Inde intervient suite aux inquiétudes exprimées par des utilisateurs ayant partagé des exemples de modifications apportées par Grok à des images de personnes, principalement des femmes, pour les faire apparaître en bikini. Cette affaire a été déclenchée par une plainte officielle déposée par la parlementaire indienne Priyanka Chaturvedi. Cette dernière a mis en garde toutes les grandes entreprises proposant des chatbots d'intelligence artificielle, soulignant la nécessité de mettre en place des garde-fous pour contrôler des fonctionnalités comme Grok afin d'éviter toute atteinte à la dignité humaine.

Par ailleurs, des utilisateurs ont signalé plusieursdentoù le chatbot IA a été utilisé pour générer des images à caractère sexuel impliquant des mineurs, un problème que X a reconnu vendredi. La plateforme a affirmé que cela était dû à des failles dans ses mesures de sécurité avant de supprimer rapidement les images générées. Elle a également incité les utilisateurs à signaler officiellement ces incidents au FBI ou à la CyberTipline du NCMEC, soulignant que X s'engage à prévenir de tels problèmes.

X pourrait faire face à des problèmes juridiques pour non-respect des règles

Selon des utilisateurs, des images indécentes de femmes générées par le chatbot sont restées en ligne. Cette décision fait suite à une mise en garde du ministère indien des Technologies de l'information adressée aux plateformes de réseaux sociaux. Ce ministère leur rappelle que le respect des lois locales régissant les contenus obscènes et à caractère sexuel est une condition essentielle pour bénéficier d'une immunité juridique concernant les contenus publiés par les utilisateurs. Le pays a exhorté les entreprises à renforcer leurs mécanismes de contrôle et les a averties que tout manquement pourrait entraîner des poursuites judiciaires.

« Il est rappelé que tout manquement aux exigences susmentionnées sera considéré comme grave et pourra entraîner des poursuites judiciaires à l'encontre de votre plateforme, de ses responsables et des utilisateurs qui enfreignent la loi, sans préavis », précise l'ordonnance. Le gouvernement indien a également averti X qu'en cas de non-respect de cette directive, le pays se réserve le droit d'engager des poursuites judiciaires contre la plateforme en vertu du droit indien des technologies de l'information et du droit pénal.

L'Inde s'est imposée comme l'un des plus grands marchés numériques et constitue un cas d'école crucial pour évaluer jusqu'où les gouvernements sont prêts à aller pour responsabiliser les plateformes quant aux contenus générés par l'IA. Un renforcement de la réglementation pourrait avoir des répercussions ripple sur les entreprises technologiques internationales opérant dans d'autres pays. Cette décision intervient alors que X poursuit sa contestation judiciaire de la réglementation indienne sur les contenus.

La plateforme soutient que les pouvoirs de retrait du gouvernement fédéral risquent d'être abusifs, même si elle s'est conformée à la plupart des directives de blocage émises par le pays. Parallèlement, Grok s'est avéré utile aux utilisateurs de X, la plupart d'entre eux utilisant la plateforme pour la vérification des faits et les commentaires en temps réel sur l'actualité internationale, ce qui rend ses publications plus visibles et politiquement plus sensibles que celles des outils d'IA autonomes.