Vendredi, le Japon a annoncé enquêter sur X en raison des images inappropriées générées par Grok, le service d'intelligence artificielle d'Elon Musk. Le gouvernement prévoit d'explorer toutes les mesures possibles pour empêcher la création de telles images.
Le ministre de la Sécurité économique, Kimi Onoda, a déclaré que le Cabinet du Premier ministre japonais avait demandé à X d'apporter des améliorations immédiates, mais que l'entreprise n'avait pas encore répondu.
Tokyo fait pression sur X pour obtenir des réponses concernant les contrôles de Grok
Les autorités de Tokyo ont adressé des questions écrites à X concernant les mesures à prendre pour lutter contre les deepfakes et les images qui portent atteinte à la vie privée, à la propriété intellectuelle et au droit à l'image.
Mme Onoda, également ministre d'État chargée de la stratégie en intelligence artificielle, a déclaré vendredi lors d'une conférence de presse que toutes les options, y compris des poursuites judiciaires, étaient envisagées en l'absence d'amélioration. Elle a ajouté qu'ils réagiraient si des problèmes similaires survenaient sur d'autres de médias sociaux .
La ministre a déclaré qu'il était préoccupant que de telles images puissent encore être générées. Elle a toutefois précisé que l'intelligence artificielle n'était pas en cause. Elle estime que le gouvernement japonais doit explorer diverses solutions pour s'attaquer au véritable problème.
Onoda s'est exprimé après que la Grande-Bretagne et le Canada ont annoncé qu'ils poursuivaient leurs enquêtes sur Grok.
Le Japon cherche à réglementer l'IA tout en ambitionnant de rivaliser avec les États-Unis et la Chine dans ce domaine crucial. Sa loi sur l'IA , en vigueur depuis septembre, ne prévoit aucune sanction et limite l'action gouvernementale aux enquêtes et à la publication de recommandations officielles en cas d'infraction.
Les autorités du monde entier se mobilisent contre Grok
Partout dans le monde, les autorités ont cherché à restreindre l'utilisation de ce chatbot doté d'intelligence artificielle après que des utilisateurs ont découvert qu'il pouvait produire des images sexualisées de femmes et de mineurs.
Ce mois-ci, Grok a fait l'objet de vives critiques de la part d'utilisateurs et de gouvernements dans des pays allant de la Malaisie à l'Italie, en raison de la facilité avec laquelle il pouvait être utilisé pour modifier des photos de manière sexuelle ou dégradante
Les Philippines et l'Indonésie ont temporairement interdit l'accès à Grok en raison de la diffusion d'images explicites.
Le Canada, la Californie, l'UE et des États membres de l'UE comme la France examinent si les images de Grok enfreignent les lois locales.
Mercredi soir, xAI a annoncé des modifications visant à empêcher les utilisateurs de Grok de modifier les images de personnes réelles portant des vêtements révélateurs comme des bikinis.
xAI a déclaré qu'elle empêche les utilisateurs, en fonction de leur localisation, de créer des images de personnes en tenues révélatrices dans les zones où cela est illégal, mais n'a pas précisé lesquelles.
Depuis, elle a limité ses fonctionnalités de génération d'images et les a placées derrière un paywall.
Mercredi, Elon Musk a déclaré qu'il n'avait connaissance d'aucune image de mineurs nus créée par Grok.
Il a déclaré n'avoir « connaissance d'aucune image de mineurs nus générée par Grok. Absolument aucune. De toute évidence, Grok ne génère pas d'images spontanément, il le fait uniquement à la demande des utilisateurs. »
D'après Copyleaks, environ une image est téléchargée chaque minute sur X. Genevieve Oh, dent dans l'analyse d'Internet, a examiné les publications de @Grok sur X pendant 24 heures. Environ 6 700 images par heure générées par le chatbot ont été signalées comme étant à caractère sexuel ou montrant de la nudité.
