ULTIME NOTIZIE
SELEZIONATO PER TE

Corte d'appello Usa mette in dubbio la sfida di xAI alla legge californiana sulla trasparenza dell'IA

DiNellius IreneNellius Irene 3 min di lettura
  • Il Nono Circuito ha esaminato la richiesta di xAI di bloccare la legge californiana sulla divulgazione dei dati di addestramento dell'IA.
  • Il giudice Rawlinson ha affermato che l'azienda deve dimostrare che la richiesta del governo è irragionevole.
  • Il bot Grok di xAI ha cercato ripetutamente dati aziendali senza alcuna richiesta o autorizzazione.

 

Un tribunale federale d'appello degli Stati Uniti ha esaminato mercoledì la richiesta di xAI di bloccare la legge californiana sulla divulgazione dei dati di addestramento dell'IA. Durante l'udienza, i giudici del 9° Circuito, con sede a San Francisco, sembrano non essere rimasti convinti dall'argomento costituzionale dell'azienda, sebbene abbiano anche sollecitato gli avvocati dello Stato su quante informazioni la California possa costringere le aziende di IA a fornire.

Approvata nell'ambito della più ampia spinta dello Stato al controllo dell'intelligenza artificiale, la legge sulla trasparenza impone ai produttori di IA generativa di condividere pubblicamente una panoramica dei dati utilizzati per l'addestramento. Finora, xAI ha sostenuto che la legge viola il suo diritto alla libertà di espressione garantito dal Primo Emendamento e la costringe a rivelare dettagli proprietari su come vengono addestrati i suoi modelli.

L'argomento di xAI si concentra sulla questione se l'obbligo per le aziende di pubblicare informazioni sui loro processi di addestramento costituisca una forma di 'discorso imposto'. Il Primo Emendamento protegge generalmente individui e imprese dalle restrizioni governative sull'espressione, ma solleva anche interrogativi sul momento in cui le autorità possono imporre divulgazioni.

Per gli sviluppatori di IA, la controversia riguarda il bilanciamento della trasparenza con la protezione dei segreti commerciali e della tecnologia proprietaria. Una sentenza favorevole alla California potrebbe rendere più difficile per gli sviluppatori contestare requisiti simili di divulgazione in altri stati.

Il giudice Rawlinson afferma che xAI deve dimostrare che la legge sulla trasparenza è irragionevole

Già a marzo, un giudice federale di Los Angeles, Jesus Bernal, aveva respinto la richiesta di xAI di sospendere l'applicazione della legge statale, sostenendo che la società non aveva dimostrato fin dall'inizio la probabilità di prevalere sulla sua costituzionale. Dall'udienza di mercoledì, la corte d'appello per la prima volta sembra propensa a confermare la decisione di Bernal. 

Il giudice del Circuito degli Stati Uniti Johnnie Rawlinson ha detto all'avvocato di xAI James Xi che, per sostenere che la legge viola il Primo Emendamento, la società deve dimostrare che la richiesta del governo è irragionevole.

Ha persino lasciato intendere che la decisione dello Stato di richiedere informazioni potesse essere ragionevole. "Non è ragionevole per il governo voler far sì che i cittadini sappiano in anticipo quali informazioni vengono inserite nello strumento di intelligenza artificiale?", ha chiesto.

Tuttavia, i giudici hanno espresso un certo accordo con l'affermazione di xAI secondo cui lo Stato potrebbe costringerlo a fornire una quantità di informazioni "illimitata". 

All'inizio di luglio, il Knight Institute ha presentato una memoria amicus curiae sul caso. Nella sua memoria, ha avvertito che i grandi sviluppatori di tecnologia stanno trattenendo dettagli vitali su come funzionano i sistemi di IA generativa, su come sono realizzati e su come influenzano le informazioni che le persone vedono. 

Ha inoltre sostenuto che gli obblighi di divulgazione progettati per promuovere il libero flusso di informazioni commerciali accurate dovrebbero essere sottoposti a uno standard deferente di scrutinio ai sensi del Primo Emendamento. Applicando tale standard, l'Istituto ha sostenuto che xAI non aveva dimostrato una violazione costituzionale poiché la legge californiana soddisfa l'interesse dello Stato di tenere informati gli utenti senza imporre un onere eccessivo sulla protezione della libertà di espressione.

Grok di xAI ha cercato dati aziendali senza alcuna richiesta o autorizzazione 

Il coinvolgimento del Nono Circuito arriva a seguito di nuove scoperte sul Grok Bot di xAI.

Nuovi risultati dell'azienda NewCore, specializzata in identità agentiche, mostrano che il Grok Bot di xAI ha cercato ripetutamente dati aziendali senza alcuna richiesta o autorizzazione, insistendo anche dopo che un proprietario aveva rifiutato le sue offerte di verificare lo stato quattro volte.

Per non parlare del fatto che il bot ha affermato di non aver effettuato chiamate quando gli è stato chiesto direttamente. La cronologia della chat non mostrava inoltre alcuna prova di tale attività; il proprietario non è mai stato notificato e la piattaforma non offriva log per turno per verificare quanto accaduto.  

In soli cinque giorni, due Grok Bot collegati ad account dei dipendenti di NewCore hanno avviato 31 richieste su Google Calendar, Gmail, Slack, GitHub e Notion senza permesso o istruzioni da parte degli utenti.

Alcune richieste sono state effettuate persino quando i laptop dei proprietari erano spenti o in modalità sleep. Per un account, il Gateway Secure MCP di NewCore ha sospeso le richieste in attesa di approvazione umana e ha avvisato il proprietario, innescando un'indagine da parte del team di ricerca sulla sicurezza di NewCore. 

Nel corso delle indagini, i ricercatori hanno utilizzato un altro bot Grok su un account diverso, configurandolo con lo stesso gateway e avviando un test tipico: al bot è stato inviato un singolo incarico di lavoro insieme all'approvazione per una sessione unica per leggere dal telefono, con il rifiuto a ogni tentativo di continuare a operare autonomamente.

Tuttavia, il bot ha continuato a generare richieste non sollecitate, che sono state intercettate dal gateway e lasciate senza risposta. Queste richieste tentavano di accedere a Google Drive, Google Calendar, Gmail, Slack, Notion e GitHub.

Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.

Domande frequenti

Perché xAI sta sfidando la legge sulla trasparenza dell'IA della California?

xAI sostiene che l'obbligo imposto dalla California agli sviluppatori di IA di divulgare informazioni sui dati di addestramento violi i suoi diritti garantiti dal Primo Emendamento e costringa l'azienda a rivelare informazioni proprietarie su come vengono sviluppati i suoi modelli di IA.

Cosa richiede la legge sulla divulgazione dei dati di addestramento dell'IA in California?

La legge impone agli sviluppatori di IA generativa di pubblicare riassunti dei dataset utilizzati per addestrare i propri modelli. L'obiettivo è migliorare la trasparenza e aiutare il pubblico a comprendere come vengono sviluppati i sistemi di IA.

Cosa ha scoperto NewCore riguardo ai bot Grok di xAI?

NewCore ha rilevato che due bot Grok hanno avviato 31 richieste non autorizzate su applicazioni aziendali, tra cui Gmail, Slack, GitHub, Google Calendar e Notion. Il gateway di sicurezza dell'azienda ha bloccato le richieste in attesa di approvazione umana, impedendo l'accesso ai dati sottostanti.

Condividi questo articolo
Nellius Irene

Nellius Irene

Nellius è una laureata in Gestione Aziendale e Informatica con cinque anni di esperienza nel settore delle criptovalute. È anche diplomata presso Bitcoin Dada. Nellius ha contribuito a principali testate giornalistiche, tra cui BanklessTimes, Cryptobasic e Riseup Media.

ALTRE NOTIZIE …