Le Japon rejoint la longue liste de pays enquêtant sur Grok de Musk

Vendredi, le Japon a annoncé qu'il enquêtait sur X en raison des images inappropriées générées par le service d'IA de Musk, Grok. Le gouvernement prévoit d'explorer toutes les mesures pour empêcher la création d'images inappropriées.

Le ministre de la Sécurité Économique, Kimi Onoda, a déclaré que le Bureau du Cabinet du Japon a demandé à X de faire des améliorations immédiates, mais l'entreprise n'a pas encore répondu.

Tokyo exerce une pression sur X pour obtenir des réponses sur les contrôles de Grok

Les responsables de Tokyo ont envoyé des questions écrites à X sur les mesures pour arrêter les deepfakes et les images qui violent la vie privée, la propriété intellectuelle et les droits d'image.

Onoda, qui est également ministre d'État chargée de la stratégie en IA, a déclaré lors d'une conférence de presse vendredi que toutes les options, y compris les actions en justice, sont envisagées s'il n'y a pas d'amélioration. Elle a ajouté qu'ils réagiront si des problèmes similaires surviennent sur d'autres les réseaux sociaux plateformes.

La ministre a déclaré qu'il est troublant que les gens puissent encore générer de telles images. Cependant, elle a noté que l'IA elle-même n'est pas à blâmer. Elle estime que le gouvernement japonais doit explorer diverses solutions au problème réel.

Onoda a parlé après que la Grande-Bretagne et le Canada ont annoncé qu'ils faisaient avancer leurs enquêtes sur Grok.

Le Japon cherche à réglementer l'IA tout en visant à rivaliser avec les États-Unis et la Chine dans ce domaine vital. Son Loi sur l'IA, entrée en vigueur en septembre, n'impose aucune pénalité et limite l'action du gouvernement aux enquêtes et aux directives officielles en cas de violation.

Les autorités du monde entier s'attaquent à Grok

Les autorités du monde entier ont cherché à restreindre le chatbot d'IA après que les utilisateurs ont découvert qu'il pouvait produire des images sexualisées de femmes et de mineurs.

Ce mois-ci, Grok a fait face à de fortes critiques de la part des utilisateurs et des gouvernements de pays allant de la Malaisie à l'Italie pour la facilité avec laquelle il pouvait être utilisé pour modifier des photos de manière sexuelle ou dégradante

Les Philippines et l'Indonésie ont temporairement interdit l'accès à Grok en raison de la génération d'images explicites.

Le Canada, la Californie, l'UE et des membres de l'UE comme la France examinent si les images de Grok violent les lois locales.

Mercredi soir, xAI a annoncé des changements pour empêcher les utilisateurs de Grok de modifier les images de personnes réelles portant des vêtements révélateurs comme des bikinis.

xAI a déclaré qu'il restreint les utilisateurs par emplacement pour créer des images de personnes en vêtements révélateurs là où c'est illégal, mais n'a pas précisé quelles zones.

Depuis lors, il a limité ses fonctionnalités de génération d'images et les a placées derrière un paywall.

Mercredi, Elon Musk a déclaré qu'il ne connaissait aucune image nue de mineurs créée par Grok. 

Il a déclaré il n'est « pas au courant d'images de mineurs nus générées par Grok. Zéro. Évidemment, Grok ne génère pas spontanément des images, il le fait uniquement sur demande des utilisateurs. »

Environ une image est téléchargée chaque minute sur X, selon Copyleaks. Genevieve Oh, une chercheuse indépendante sur Internet, a examiné les publications de @Grok sur X pendant 24 heures. Environ 6 700 images par heure générées par le chatbot ont été signalées comme suggérant une sexualité ou nudifiantes.