Il presidente della SEC Atkins utilizzerà l'intelligenza artificiale per combattere i malintenzionati che sfruttano l'intelligenza artificiale

La SEC ha annunciato l'intenzione di integrare AI nelle sue operazioni per rendere più semplice e veloce il rilevamento delle anomalie e condurre valutazioni dei rischi. 

La SEC sta perseguendo i malintenzionati che sfruttano la tecnologia dell'intelligenza artificiale per scopi fraudolenti e le aziende che si dedicano al lavaggio dell'intelligenza artificiale per ingannare gli investitori.

In che modo la SEC utilizza l'intelligenza artificiale per proteggere gli investitori e catturare i truffatori?

La Securities and Exchange Commission (SEC), sotto la guida del presidente Paul S. Atkins, sta implementando una strategia per "combattere l'intelligenza artificiale con l'intelligenza artificiale". L'iniziativa è incentrata sulla Task Force sull'IA della SEC, istituita per dare a tutta l'agenzia accesso ai progressi tecnologici e garantire che la commissione rimanga al passo con la rapida evoluzione del settore finanziario privato.

La Commissione utilizza algoritmi per individuare comportamenti scorretti sul mercato, tra cui frodi e manipolazioni commerciali. Questi strumenti possono individuare anomalie nei volumi di scambio o nelle oscillazioni dei prezzi con maggiore rapidità e precisione rispetto ai metodi tradizionali.

L'intelligenza artificiale aiuta inoltre il personale dell'agenzia adentin modo più efficiente omissioni sostanziali o dichiarazioni fuorvianti nei documenti presentati da migliaia di società quotate, consentendo alla SEC di reagire in tempo reale ai contributi del pubblico e ai cambiamenti del mercato.

Il presidente Atkins ha sottolineato che l'obiettivo della SEC rimane quello di proteggere gli investitori, indipendentemente dagli strumenti utilizzati. Questa volta, l'agenzia sta prestando particolare attenzione ai segnali di "AI washing". Questo termine viene utilizzato per descrivere le aziende che fanno affermazioni false, esagerate o fuorvianti sul loro utilizzo dell'intelligenza artificiale per aumentare il prezzo delle proprie azioni o attiraretracinvestitori.

Quali sono i rischi dell'utilizzo dell'intelligenza artificiale nella regolamentazione governativa?

Una delle principali preoccupazioni relative all'intelligenza artificiale nella pubblica amministrazione è il potenziale rischio di processi decisionali "black box", in cui un algoritmo effettua una scelta senza una motivazione chiara e comprensibile per l'uomo. Il Presidente Atkins ha chiarito che l'interazione umana è necessaria in ogni fase del programma di valutazione del rischio della SEC.

"Il giusto processo lo esige", ha osservato Atkins durante una recente tavola rotonda del Financial Stability Oversight Council (FSOC). Un algoritmo potrebbedentun modello sospetto o un'anomalia, ma non è in grado di determinare la credibilità di un testimone o di valutare l'intento di un operatore di mercato. Di conseguenza, il giudizio finale spetta ai Commissari e al personale professionale.

I principali sviluppatori di intelligenza artificiale, tra cui Google (Gemini), OpenAI e Anthropic, hanno già pubblicato report che descrivono in dettaglio come entità malintenzionate stiano sfruttando le loro piattaforme. Ad esempio, OpenAI ha recentemente segnalato di aver smantellato un gruppo di hacker sponsorizzati da stati che utilizzavano l'IA per ricercare vulnerabilità e generare contenuti di phishing. Analogamente, il Threat Analysis Group di Google ha tracl'utilizzo di Large Language Models (LLM) in attacchi di ingegneria sociale progettati per rubare credenzialident.

La SEC obbligherà le aziende a divulgare informazioni relative all'intelligenza artificiale se esiste una probabilità sostanziale che un azionista ragionevole le ritenga importanti per una decisione di investimento.

All'inizio del 2024, la Commissione ha risolto le accuse contro due consulenti finanziari per aver rilasciato dichiarazioni false e fuorvianti sull'utilizzo dell'intelligenza artificiale. In quei casi, le società affermavano di utilizzare l'intelligenza artificiale per analizzare milioni di punti dati al fine di prevedere l'andamento del mercato, ma la SEC ha ritenuto che tali affermazioni fossero false.