I principali modelli di AI mancano di trasparenza, mostra un nuovo indice
I principali modelli di AI mancano di trasparenza, mostra un nuovo indice
- Un nuovo indice mostra che la maggior parte dei modelli di IA manca di trasparenza.
- La trasparenza è fondamentale per i regolatori per regolare efficacemente l'IA a tutela della sicurezza dei consumatori.
- La mancanza di trasparenza potrebbe anche rendere difficile individuare pregiudizi, problemi di privacy e altri danni potenziali dei modelli di IA.
I ricercatori del Center for Research on Foundation Models (CRFM) di Stanford hanno recentemente scoperto che i più grandi modelli di base dell'IA mancano di trasparenza, e questo potrebbe essere motivo di preoccupazione, considerando quanto la tecnologia sia potente e si stia diffondendo rapidamente in tutto il mondo.
I principali modelli di IA mancano di trasparenza
Per valutare la trasparenza dei 10 principali modelli di base, i ricercatori si sono uniti ad altri esperti del MIT e di Princeton per sviluppare l'«Indice di Trasparenza dei Modelli di Base». L'indice valuta 100 aspetti diversi della trasparenza in base a come un'azienda costruisce un modello di base, come funziona e come viene utilizzato a valle.
L'indice ha classificato Llama 2 di Meta al 54%, seguito da BLOOMZ di BigScience (53%) e OpenAI GPT-4 (48%). PaLM 2 di Google aveva un rating di trasparenza del 40%, con il modello meno trasparente che era Titan Text di Amazon al 12%.
«Questo è un chiaro indicatore di come queste aziende si confrontano con i loro concorrenti, e speriamo che le motivi a migliorare la loro trasparenza», ha detto Rishi Bommasani, Responsabile Sociale presso il CRFM.
Perché è importante?
La trasparenza nei modelli di IA è imperativa per prevenire determinate minacce alla protezione dei consumatori e anche per garantire che questi strumenti siano sicuri da usare.
La mancanza di trasparenza renderebbe più difficile per le aziende sapere se possono costruire applicazioni in modo sicuro utilizzando modelli di base commerciali o per gli accademici fare affidamento sui modelli per la ricerca.
Dal lato della regolamentazione, è una priorità maggiore. La trasparenza è importante per sradicare i pregiudizi, le violazioni della privacy, ecc., e per aiutare efficacemente i responsabili politici in tutto il mondo a formulare regole per regolare i modelli di IA.
«Se non hai trasparenza, i regolatori non possono nemmeno porre le domande giuste, figuriamoci prendere azione in queste aree», ha detto Bommasani.
Alcuni paesi, tra cui l'Australia, hanno già iniziato a imporre misure per garantire la trasparenza e l'integrità dei modelli di IA. A settembre, Cryptopolitan ha riportato che il governo australiano ha dato ai cittadini il diritto di richiedere informazioni significative su come vengono prese le decisioni automatizzate.
Il governo richiede che le aziende di IA forniscano queste informazioni in modo chiaro e comprensibile, assicurando che i cittadini possano capire come l'IA influenza le loro vite.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Ibiam Wayas
Ibiam Wayas si occupa di notizie sul crypto dal 2019. Si è laureato in Informatica presso l'Open University of Nigeria. I suoi lavori sono apparsi su varie piattaforme di notizie crypto, tra cui Coinfomania, Crypto News Australia e AltcoinBuzz. Sfruttando il suo background in Informatica, ora si concentra su notizie relative a crypto, robotica e longevità.
