I giganti della tecnologia di Silicon Valley mettono in secondo piano la sicurezza dell'IA per i guadagni di prodotto

Silicon Valley era il luogo dove i principali esperti di intelligenza artificiale del mondo andavano a svolgere ricerche innovative, ma gli esperti avvertono che le cose sono cambiate e ora l'IA riguarda tutto il prodotto. I ricercatori e gli esperti di IA credono anche che, da quando OpenAI ha rilasciato ChatGPT alla fine del 2022, il settore tecnologico abbia privilegiato la commercializzazione rispetto alla ricerca costruendo prodotti IA pronti per i consumatori.

Gli analisti di Morgan Stanley previsto che l'industria dell'IA ha il potenziale per raggiungere 1 trilione di dollari di ricavi annuali entro il 2028. Gli esperti del settore dicono di essere preoccupati per la sicurezza mentre i principali attori perseguono l'intelligenza artificiale generale (AGI).

La ricerca sull'IA torna ai profitti mentre Silicon Valley privilegia i prodotti rispetto alla sicurezza

Geoffrey Hinton dice che le aziende di IA dovrebbero essere costrette a utilizzare un terzo delle loro risorse di calcolo per la ricerca sulla sicurezza perché l'IA diventerà più intelligente di noi nei prossimi 20 anni e dobbiamo iniziare a preoccuparci di cosa succederà allora pic.twitter.com/ocT3Scmyxg

— Tsarathustra (@tsarnick) Ottobre 25, 2024

pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita., fondata come laboratorio di ricerca no-profit nel 2015, è ora nel mezzo di uno sforzo per trasformarsi in un'entità a scopo di lucro, secondo il suo CEO, Sam Altman. Jan Leike, ex capo dell'allineamento di OpenAI, il cui team si concentrava sulla sicurezza dell'IA, si è dimesso lo scorso anno e ha dichiarato che negli ultimi anni, "la cultura e i processi di sicurezza sono passati in secondo piano rispetto ai prodotti lucidi."

James White, chief technology officer della startup di cybersecurity Calypso, ha sostenuto che le aziende tecnologiche stanno prendendo un numero crescente di scorciatoie quando si tratta di testare rigorosamente i loro modelli di IA prima di rilasciarli al pubblico. Ha notato che i modelli di IA più recenti stanno sacrificando la sicurezza per la qualità, ovvero risposte migliori dei chatbot IA. 

"I modelli stanno diventando migliori, ma sono anche più propensi a essere bravi a fare cose cattive. È più facile ingannarli per fare cose cattive."

– James White, Chief Technology Officer di Calypso.

A marzo, Google sembrava privilegiare il suo prodotto rispetto alla sicurezza dopo averlo ha rilasciato rilasciato il suo ultimo modello di IA, Gemini 2.5, definendolo il modello di IA più intelligente dell'azienda. L'azienda non ha rilasciato la scheda tecnica del modello Gemini 2.5 per settimane, il che significa che non ha condiviso informazioni su come funzionava il modello di IA o sui suoi limiti e potenziali pericoli al momento del rilascio.

L'azienda riconosceva il 2 aprile che valuta i suoi modelli più avanzati per capacità potenzialmente pericolose prima del loro rilascio. Google ha successivamente aggiornato il post del blog e ha omesso le parole "prima del loro rilascio."

L'azienda ha pubblicato una scheda tecnica incompleta il 16 aprile e l'ha aggiornata il 28 aprile, più di un mese dopo il rilascio del modello di IA, per includere informazioni sulle valutazioni delle capacità pericolose di Gemini 2.5.

Le aziende tecnologiche di IA passano dalla ricerca a prodotti generatori di ricavi

Ex dipendenti di Meta hanno detto di non essere sorpresi quando Joelle Pineau, vicepresident di Meta e capo della divisione FAIR dell'azienda, . L'azienda crede che FRUT servirà come “espressione a biglietto unico” degli aspetti della piattaforma e dell'hardware dell'intelligenza artificiale. Questo significa semplicemente che gli investitori ottengono accesso all'infrastruttura AI con un prodotto, invece di mescolare diversi produttori di chip e nomi di piattaforme. lo scorso mese ha annunciato che avrebbe lasciato il suo incarico il 30 maggio. Hanno menzionato che lo hanno visto come una consolidamento del movimento dell'azienda lontano dalla ricerca sull'IA e verso la priorità nello sviluppo di prodotti pratici.

Pineau ha guidato FAIR da 2023, e secondo i dipendenti di Meta, piccoli team di ricerca potevano lavorare su varie tecnologie all'avanguardia che potevano o meno dare frutti. Il cambiamento è iniziato quando l'azienda tecnologica ha licenziato 21.000 dipendenti, o quasi un quarto della sua forza lavoro, alla fine del 2022. Ex dipendenti a conoscenza della materia hanno detto che i ricercatori di FAIR sono stati diretti a lavorare più strettamente con i team di prodotto come parte delle misure di riduzione dei costi.

Due persone a conoscenza della materia hanno detto che all'inizio di quest'anno, uno dei direttori di FAIR, Kim Hazelwood, ha lasciato l'azienda come parte del piano di Meta di tagliare il 5% della sua forza lavoro. Le persone hanno notato che il lancio di ChatGPT da parte di OpenAI ha creato un senso di urgenza a Meta per investire più risorse nei modelli di linguaggio di grandi dimensioni (LLM).

Le persone hanno anche rivelato che il Chief Product Officer di Meta, Chris Cox, ha supervisionato FAIR per colmare il divario tra la ricerca e il gruppo GenAI focalizzato sul prodotto. Hanno aggiunto che GenAI, sotto Cox, ha sottratto più risorse informatiche e membri del team da FAIR a causa del suo status elevato all'interno dell'azienda. 

Lo scorso mese, Meta ha rilasciato strumenti di sicurezza e sicurezza per gli sviluppatori per creare app con i modelli di IA Llama 4 dell'azienda. Meta ha detto che gli strumenti aiutano a mitigare le possibilità che Llama 4 trapeli involontariamente informazioni sensibili o produca contenuti dannosi.