DERNIÈRES ACTUALITÉS
SÉLECTIONNÉ POUR VOUS

La cour d'appel américaine interroge le recours de xAI contre la loi californienne sur la transparence de l'IA

ParNellius IreneNellius Irene 3 min de lecture
  • Le Neuvième Circuit a délibéré sur la demande de xAI visant à bloquer la loi californienne relative à la divulgation des données d’entraînement des IA.
  • Le juge Rawlinson a déclaré que l’entreprise doit démontrer que la demande du gouvernement est déraisonnable.
  • Le bot Grok de xAI a systématiquement cherché à obtenir des données corporatives sans aucune demande ni autorisation.

 

Un tribunal fédéral d’appel américain a examiné mercredi la demande de xAI visant à bloquer la loi californienne relative à la divulgation des données d’entraînement des IA. Au cours de l’audience, les juges du 9e Circuit, basé à San Francisco, semblaient peu convaincus par l’argument constitutionnel de l’entreprise, tout en interrogeant les avocats de l’État sur la quantité d’informations que la Californie peut exiger que les entreprises d’IA lui communiquent.

Adoptée dans le cadre de l'initiative plus large de l'État pour superviser l'intelligence artificielle, la loi sur la transparence exige que les créateurs d'IA générative partagent publiquement des aperçus de leurs données d'entraînement. Jusqu'à présent, xAI a fait valoir que cette loi porte atteinte à ses droits en matière de liberté d'expression garantis par le Premier Amendement et l'oblige à divulguer des détails propriétaires sur la manière dont ses modèles sont entraînés.

L'argumentation de xAI repose sur la question de savoir si l'obligation faite aux entreprises de publier des informations sur leurs processus d'entraînement constitue une expression contrainte. Le Premier Amendement protège généralement les individus et les entreprises contre les restrictions gouvernementales imposées à l'expression, mais il soulève également des questions sur les circonstances dans lesquelles les autorités peuvent exiger des divulgations.

Pour les développeurs d’IA, le litige implique l’équilibre entre transparence et la protection des secrets commerciaux et de la technologie propriétaire. Un jugement en faveur de la Californie pourrait rendre plus difficile pour les développeurs de contester des exigences similaires de divulgation dans d’autres États.

Le juge Rawlinson estime que xAI doit démontrer que la loi sur la transparence est déraisonnable

En mars dernier, un juge fédéral à Los Angeles, Jesus Bernal, avait rejeté la demande de xAI visant à suspendre l'application de la loi de l'État, estimant que l'entreprise n'avait pas démontré dès le départ qu'elle était susceptible de gagner son recours constitutionnel. Lors de l'audience de mercredi, la cour d'appel comparu s'est montrée disposée à confirmer la décision de Bernal. 

Le juge du circuit américain Johnnie Rawlinson a déclaré à James Xi, avocat de xAI, que, pour soutenir que la loi viole le Premier Amendement, l'entreprise doit prouver que la demande du gouvernement est déraisonnable.

Il a même laissé entendre que la décision de l’État de demander des informations pouvait être judicieuse. « N’est-il pas raisonnable pour le gouvernement de vouloir que ses citoyens sachent dès le départ quelles informations sont saisies dans l’instrument d’IA ? », a-t-il demandé.

Pourtant, les juges ont exprimé un certain accord avec la revendication de xAI selon laquelle l’État pourrait l’obliger à fournir une quantité « illimitée » d’informations. 

Début juillet, le Knight Institute a déposé un mémoire amicus sur cette affaire. Dans celui-ci, il mettait en garde contre le fait que les grands développeurs de technologies de l’information dissimulent des détails essentiels sur le fonctionnement des systèmes d’IA générative, leur conception et leur influence sur les informations auxquelles les utilisateurs sont exposés. 

Il a également soutenu que les exigences de divulgation destinées à favoriser la libre circulation d’informations commerciales précises devraient être soumises à un standard de contrôle respectueux du Premier Amendement. En appliquant ce standard, l’Institut a estimé que xAI n’avait pas démontré de violation constitutionnelle, car la loi californienne sert l’intérêt de l’État à informer les utilisateurs sans imposer de charge excessive sur la liberté d’expression protégée.

Grok de xAI a recherché des données corporatives sans aucune demande ni autorisation 

L'intervention du neuvième circuit d'appel intervient à la suite de nouvelles découvertes concernant le bot Grok de xAI.

De nouveaux résultats de l'entreprise spécialisée dans les identités agentic NewCore révèlent que le bot Grok de xAI a systématiquement recherché des données corporatives sans aucune demande ni autorisation, persistant même après qu'un propriétaire ait refusé ses propositions de vérification à quatre reprises.

Sans parler du fait que le bot a affirmé n'avoir passé aucun appel lorsqu'on lui a demandé directement. Son historique de chat ne montrait également aucune trace de cette activité ; le propriétaire n'a jamais été notifié et la plateforme n'offrait aucun journal par tour pour vérifier ce qui s'était produit.  

En seulement cinq jours, deux bots Grok liés aux comptes des employés de NewCore ont initié 31 requêtes sur Google Calendar, Gmail, Slack, GitHub et Notion sans permission ni instructions utilisateur.

Certaines requêtes ont été effectuées même lorsque les ordinateurs portables des propriétaires étaient éteints ou en mode veille. Pour un compte donné, la passerelle Secure MCP Gateway de NewCore a suspendu les requêtes en attendant une approbation humaine et a alerté le propriétaire, déclenchant ainsi une enquête par l'équipe de recherche en sécurité de NewCore. 

Dans le cadre de l'enquête, les chercheurs ont utilisé un autre bot Grok sur un compte différent, l'ont configuré en utilisant la même passerelle et ont lancé un test typique, où le bot a reçu une demande de travail ainsi qu'une approbation à session unique pour lire depuis le téléphone, et un rejet à chaque tentative de continuer à fonctionner seul.

Néanmoins, le bot a continué à générer des demandes non sollicitées, qui ont été interceptées par la passerelle et laissées sans réponse. Ces tentatives cherchaient à accéder à Google Drive, Google Calendar, Gmail, Slack, Notion et GitHub.

Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.

FAQ

Pourquoi xAI conteste-t-il la loi californienne sur la transparence de l'IA ?

xAI soutient que l'exigence de la Californie obligeant les développeurs d'IA à divulguer des informations sur leurs données d'entraînement viole ses droits du Premier amendement et contraint l'entreprise à révéler des informations propriétaires sur le développement de ses modèles d'IA.

Que exige la loi californienne sur la divulgation des données d'entraînement de l'IA ?

La loi exige que les développeurs d'IA générative publient des résumés des jeux de données utilisés pour entraîner leurs modèles. Elle vise à améliorer la transparence et à aider le public à comprendre comment les systèmes d'IA sont développés.

Que NewCore a-t-il découvert concernant les bots Grok de xAI ?

NewCore a révélé que deux bots Grok ont initié 31 requêtes non autorisées sur des applications d'entreprise, notamment Gmail, Slack, GitHub, Google Calendar et Notion. La passerelle de sécurité de l'entreprise a bloqué les requêtes en attendant une approbation humaine, empêchant ainsi tout accès aux données sous-jacentes.

Partager cet article
Nellius Irene

Nellius Irene

Nellius est diplômée en gestion d'entreprise et en informatique, avec cinq ans d'expérience dans l'industrie des cryptomonnaies. Elle est également diplômée de Bitcoin Dada. Nellius a contribué à des publications médiatiques de premier plan, dont BanklessTimes, Cryptobasic et Riseup Media.

PLUS D'ACTUALITÉS…