- L'IA generativa emerge come uno dei principali rischi aziendali nel secondo trimestre del 2023, con preoccupazioni relative alla privacy dei dati e alla cybersecurity.
- Le recessioni economiche amplificano i rischi di fattibilità delle terze parti, con potenziali impatti sulle catene di approvvigionamento e sulla pianificazione finanziaria.
- La rapida adozione pubblica degli strumenti di IA sottolinea la necessità di una gestione proattiva dei rischi nei settori tecnologico ed economico.
L'intelligenza artificiale generativa (IA), inclusi modelli prominenti come ChatGPT di OpenAI e Google Bard, è salita in prima linea nelle preoccupazioni per i rischi aziendali nel Q2 2023, secondo un recente studio di Gartner, Inc.
Approfondimenti dal sondaggio
In un sondaggio completo condotto a maggio 2023, Gartner ha contattato 249 dirigenti senior dei rischi aziendali, mirando a offrire una prospettiva benchmark su 20 rischi imminenti. I Rapporti sui Rischi Emergenti Trimestrali, un'analisi dettagliata, gettano luce sull'impatto potenziale, sulla tempistica, sul livello di attenzione e sulle opportunità percepite associate a questi rischi.
La disponibilità di massa dell'IA generativa è stata identificata come il rischio citato più frequentemente in seconda posizione. Nel frattempo, la vitalità dei terzi posti al primo posto come rischio emergente rapidamente sotto stretta osservazione nel sondaggio Q2 2023. L'incertezza nella pianificazione finanziaria e il rischio di concentrazione nel cloud sono seguiti, con le tensioni commerciali con la Cina che completano i top cinque. Questi rischi rappresentano una miscela di attuali preoccupazioni macroeconomiche, volatilità geopolitica e tematiche tecnologiche.
Ran Xu, direttore della ricerca nella Pratica di Rischio e Audit di Gartner, ritiene che l'apparizione improvvisa dell'IA generativa nella top 10, classificandosi al secondo posto, specchi il rapido aumento della consapevolezza pubblica e dell'adozione degli strumenti di IA generativa. Sottolinea anche l'ampia gamma di potenziali applicazioni e, di conseguenza, i rischi associati.
Rischi dell'IA generativa
Gartner ha precedentemente individuato sei rischi intrinseci dell'IA generativa e quattro aree pertinenti della regolamentazione dell'IA. Per gestire efficacemente il rischio aziendale, Gartner sottolinea tre aree pivotali: proprietà intellettuale, privacy dei dati e cybersecurity.
Preoccupazioni relative alla proprietà intellettuale
Gli strumenti di intelligenza artificiale generativa possono integrare involontariamente informazioni nei propri dataset di addestramento. Ran Xu ha spiegato che le informazioni inserite in uno strumento di IA generativa potrebbero diventare parte del suo set di addestramento. Ciò implica che dati sensibili o proprietari potrebbero apparire involontariamente negli output destinati ad altri utenti. Inoltre, l'utilizzo degli output di questi strumenti potrebbe violare involontariamente i diritti di proprietà intellettuale degli utenti precedenti. Gartner sottolinea l'importanza di informare i leader aziendali sulla prudenza e la trasparenza richieste nell'impiego di tali strumenti, assicurando che i rischi legati alla proprietà intellettuale siano affrontati in modo appropriato.
Questioni di privacy dei dati
Gli strumenti di intelligenza artificiale generativa potrebbero condividere involontariamente i dati degli utenti con terze parti, come fornitori o provider di servizi, senza preavviso. Tali azioni potrebbero violare le leggi sulla privacy in numerose regioni. È notevole che la Cina e l'UE abbiano già emanato regolamentazioni, con proposte di leggi in arrivo negli USA, in Canada, in India e nel Regno Unito.
Minacce alla cybersecurity
Gli strumenti di intelligenza artificiale generativa non sono immuni alle minacce informatiche. Xu ha sottolineato che esistono codici di malware e ransomware prodotti dall'IA generativa dopo essere stati ingannati, nonché attacchi di 'prompt injection' che inducono questi strumenti a divulgare informazioni che non dovrebbero. Questo apre la strada all'esecuzione su larga scala di sofisticati attacchi di phishing.
Condizioni economiche e affidabilità delle terze parti
Gli analisti hanno anche evidenziato il potenziale aumento dei rischi legati all'affidabilità delle terze parti a causa del peggioramento delle condizioni economiche. L'inflazione persistente, meno reattiva agli aggiustamenti dei tassi di interesse e di durata maggiore del previsto, ha intensificato le pressioni sui costi e sui margini delle terze parti. Man mano che le banche centrali innalzano i tassi di interesse per combattere l'inflazione, si innesca una fase di restrizione del credito, potenzialmente spingendo i fornitori verso la sospensione operativa o l'insolvenza a causa dei crescenti costi di borrowing.
Un ampio calo economico potrebbe portare a un'imprevista contrazione della domanda, mettendo a rischio l'affidabilità dei fornitori o la loro capacità di consegnare beni e servizi tempestivamente.
Gli esperti di Gartner hanno delineato tre potenziali ripercussioni dell'affidabilità delle terze parti che i responsabili dei rischi devono monitorare: la perdita di input e materiali essenziali, assunzioni errate nella pianificazione finanziaria e sfide della catena di approvvigionamento esterna.
Mentre il panorama dei rischi emergenti evolve, le imprese devono rimanere vigili, specialmente nel campo dell'intelligenza artificiale generativa. La combinazione di progressi tecnologici e fluttuazioni economiche richiede un approccio proattivo alla gestione dei rischi.
Non limitarti a leggere le notizie sulle criptovalute. Comprendile. Iscriviti alla nostra newsletter. È gratuita.
Glory Kaburu
Glory è una giornalista estremamente competente, esperta di strumenti AI e ricerca. È appassionata di intelligenza artificiale e ha scritto diversi articoli sull'argomento. Si tiene aggiornata sugli ultimi sviluppi nell'intelligenza artificiale, nel machine learning e nel deep learning, scrivendone regolarmente.
