Brad Smith, presidente Microsoft: l'AI è meno regolamentata del latte
- Il presidente di Microsoft Brad Smith ha dichiarato alla BBC che l'IA è soggetta a meno norme di sicurezza rispetto al latte o alle lavatrici.
- Ha chiesto una regolamentazione globale vincolante, inclusi interruttori di emergenza, segnalazione degli incidenti e obblighi di notifica alle vittime di un'IA incontrollata.
- La sua posizione contrasta con la preferenza di Trump per l'autoregolamentazione e colloca una delle più grandi aziende tecnologiche del mondo dalla parte di un controllo formale.
Brad Smith, presidente di Microsoft, ha dichiarato alla BBC che l'IA attualmente opera con meno norme di sicurezza rispetto a prodotti di consumo come il latte o le lavatrici, e questo dovrebbe spingere i governi, con il Regno Unito in prima linea, a istituire controlli vincolanti, inclusi interruttori di emergenza e obblighi di segnalazione quando gli agenti IA si comportano in modo improprio.
Smith made the comparison in a BBC interview published over the weekend, where he described AI as both a “tool and a weapon” that needs urgent oversight. “Right now, your washing machine is subject to more safety rules than AI,” he said, according to the BBC. “Every carton of milk that you see in the grocery store is subject to safety rules and inspection.”
Smith chiede una struttura legale che renda le aziende di IA più responsabili quando qualcosa va storto nei loro prodotti o al termine del ciclo di vita. Secondo la sua proposta, le imprese dovrebbero segnalare i malfunzionamenti dei modelli, avvisare chiunque i cui sistemi vengano violati da un agente IA incontrollato e sottoporre i modelli potenti a scrutinio indipendente prima di renderli pubblici.
Una frattura con Trump sul controllo volontario
L'iniziativa di Smith per introdurre salvaguardie giuridicamente vincolanti per l'IA lo mette in contrasto con la Casa Bianca. Trump ha sostenuto che gli Stati Uniti dovrebbero lasciare che il settore dell'IA si autoregoli, avvertendo che regole più rigide potrebbero far arretrare il Paese rispetto alla Cina. Il presidente Trump ha ribadito questa posizione durante un vertice con dirigenti del settore tecnologico lo scorso mese.
Durante il vertice, i dirigenti di OpenAI, Anthropic, Nvidia, Meta, Google e X di Elon Musk hanno firmato un accordo di una pagina che Cryptopolitan ha definito "moralmente vincolante". I firmatari si sono impegnati a utilizzare revisori indipendenti e a istituire salvaguardie per impedire che i modelli di IA sfuggano al controllo. Microsoft, tuttavia, non ha firmato tale accordo, secondo quanto riportato dal Telegraph.
Smith ha accolto favorevolmente l'accordo e ha dichiarato che Microsoft sarebbe pronta a firmarlo. Tuttavia, in un'intervista alla BBC, ha precisato che gli impegni volontari non sarebbero sufficienti da soli. Ha definito l'accordo "un buon passo" e "un passo necessario", ma ha aggiunto che non lo ritiene più adeguato.
Ha avvertito che gli impegni volontari potrebbero fare poco per contenere i rischi maggiori, poiché le aziende che già prendono sul serio la sicurezza sono più propense a rispettarli, mentre quelle che rappresentano il pericolo maggiore possono scegliere di ignorarli.
Smith di Microsoft vuole che la guida del Regno Unito
Il presidente di Microsoft Smith ha anche indicato il Regno Unito come il paese meglio posizionato per stabilire standard globali, e non gli Stati Uniti o nemmeno Bruxelles. Ha fatto riferimento al suo AI Security Institute, lanciato nel 2024 sotto l'allora primo ministro Rishi Sunak come AI Safety Institute. L'organismo ha ottenuto accordi volontari che gli permettono di testare i modelli di frontiera prima del loro lancio.
Secondo Smith, il Regno Unito si trova in una posizione più forte rispetto all'UE quando si tratta di affrontare Washington, poiché i decisori politici statunitensi vedono Londra in modo diverso da Bruxelles, ha dichiarato alla BBC, aggiungendo che l'AI Act dell'UE basato sul rischio ha reso cauti i responsabili politici americani.
Il governo britannico sta inoltre preparando di rafforzare la sua supervisione sull'IA, con il ministro dell'IA Kanishka Narayan previsto di chiedere agli sviluppatori di modelli frontiere di fare di più per affrontare i rischi per la sicurezza in un prossimo discorso, mentre la legislazione per rafforzare la supervisione governativa continua a prendere forma.
Inoltre, The Telegraph ha anche riferito che la Casa Bianca aveva ripristinato l'accesso dell'istituto britannico ai modelli IA più recenti per i test. L'accesso era stato precedentemente ritirato dopo che società come Anthropic e OpenAI erano state invitate a smettere di condividere i loro modelli.
Interruttori di emergenza e agenti ribelli
L'idea dei "freni di emergenza" di Smith riecheggia quella del CEO di Microsoft Satya Nadella, che ha chiesto che i modelli di IA siano dotati di un meccanismo che consenta a un essere umano di mettere in pausa o spegnere il sistema durante un'attività se dovesse sfuggire di controllo per qualsiasi motivo.
«Dobbiamo costruire sistemi confinati il cui comportamento possiamo osservare, limiti che possiamo testare e azioni che possiamo sempre contenere», aveva scritto in precedenza Nadella, secondo il Guardian.
Questi avvertimenti fanno seguito a incidenti reali: Anthropic ha recentemente scoperto che una versione del suo modello Claude aveva contattato la polizia e aveva falsamente affermato di poter aiutare a risolvere un omicidio durante i test.
Durante l'incontro di Trump, dirigenti dell'IA tra cui Dario Amodei, Sundar Pichai, Greg Brockman e Jensen Huang hanno sostenuto la possibilità che il settore si autoregoli. I critici si sono opposti a questo approccio, sostenendo che consentirebbe alle aziende di decidere autonomamente cosa qualificare come sicurezza.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Opeyemi Olanrewaju
Opeyemi è specializzato nella creazione e nel perfezionamento di contenuti di alta qualità focalizzati su criptovalute, mercati finanziari globali ed economia. Si è laureato presso l'Università di Ibadan con una laurea in Medicina (MBBS). Ha lavorato come Caporedattore della pubblicazione editoriale del suo Ateneo e precedentemente presso CFA. Da oltre sei anni, si occupa di salvaguardare l'unicità dei contenuti in qualità di redattore capo per Cryptopolitan.
