Le startup cercano chiarezza e regolamentazione settoriale dell'IA nel mezzo delle discussioni del Vertice sulla sicurezza dell'IA

Il recente vertice sulla sicurezza dell'IA nel Regno Unito ha riunito leader del settore, responsabili politici e startup per discutere le sfide e i rischi associati ai sistemi di IA avanzati. Sebbene molti abbiano visto l'evento come un passo diplomatico positivo, le startup che costruiscono prodotti IA sottolineano ora la necessità di chiarezza normativa e approcci settoriali alla regolamentazione dell'IA. 

Costruire connessioni e raccogliere informazioni

Connor Leahy, co-fondatore della startup di sicurezza dell'IA Conjecture, ha sottolineato che il vertice ha servito principalmente come piattaforma per il networking, lo scambio di informazioni e la costruzione di relazioni piuttosto che come sede per decisioni politiche. Fondatori come Leahy hanno evidenziato l'importanza di favorire le connessioni all'interno della comunità dell'IA.

La richiesta di regole chiare

Le startup chiedono normative più chiare nel Regno Unito per creare un ambiente stabile per le loro attività nell'ambito dell'IA. Eric Topham, co-fondatore di Octaipipe, una startup con sede a Londra focalizzata sulla sicurezza dei dati per prodotti IA su dispositivi fisici, ha sottolineato la necessità di chiarezza nelle norme sulla sicurezza dei dati. Ha contrapposto la mancanza di standard definiti nel Regno Unito al prossimo Cyber Resiliency Act in Europa, che sanziona le violazioni dei dati sui dispositivi.

Tuttavia, startup come Octaipipe sono caute nell'adozione di un approccio unico per la legislazione sull'IA. Molti fondatori ritengono che normative settoriali specifiche siano più adatte rispetto all'approccio orizzontale dell'UE, che applica le stesse regole a settori diversi. Alex Kendall, co-fondatore dell'azienda di guida autonoma Wayve, ha sostenuto che diversi settori affrontano rischi legati all'IA unici e dovrebbero avere normative su misura.

Bilanciare i rischi immediati e a lungo termine

Sebbene il vertice si sia concentrato principalmente sui rischi "catastrofici" associati ai futuri sistemi di IA super-potenti, le startup esortano i responsabili politici ad affrontare le sfide immediate e a lungo termine. Marc Warner, CEO di Faculty, ha sottolineato l'importanza di affrontare i rischi a breve e lungo termine simultaneamente, utilizzando l'analogia dell'importanza di prestare attenzione sia alle cinture di sicurezza che ai convertitori catalitici nel settore automobilistico.

Regolamentare l'IA di frontiera

La regolamentazione dei sistemi di IA più potenti, come quelli addestrati su enormi quantità di dati e potenza di calcolo, rimane una questione controversa nel settore dell'IA. Alcuni esperti, come Yann LeCun di Meta, sostengono che questi sistemi non siano realmente intelligenti ma sofisticati strumenti di completamento automatico e potrebbero non richiedere una regolamentazione rigorosa.

In contrasto, startup come Conjecture propongono di stabilire limiti massimi alla potenza di calcolo per l'addestramento di nuovi modelli, al fine di impedire che i sistemi di IA superino le capacità umane. Sostengono che sistemi di IA super-intelligenti non controllati potrebbero portare a macchine che controllano il futuro, sostituendo il controllo umano.

Mistral, una startup parigina di IA generativa, sostiene la necessità di un controllo indipendente obbligatorio sui modelli di IA delle grandi aziende tecnologiche. Ciò consentirebbe alle istituzioni di ricerca pubbliche di studiare questi modelli e garantire la trasparenza. Sebbene alcune grandi aziende tecnologiche come OpenAI e GoogleDeepMind abbiano stipulato accordi volontari per test esterni, il co-fondatore di Mistral Arthur Mensch insiste sul fatto che sia necessaria una legislazione per impedire a queste aziende di autoregolarsi.

Mustafa Suleyman, co-fondatore di DeepMind e ora CEO di Inflection, riconosce che gli accordi volontari sono un primo passo positivo. Tuttavia, sottolinea la necessità di bilanciare la regolamentazione con i diritti di proprietà intellettuale delle aziende.

A seguito del vertice sulla sicurezza dell'IA nel Regno Unito, le startup del settore IA cercano chiarezza normativa e promuovono approcci settoriali specifici per la regolamentazione dell'IA. Sebbene il vertice abbia affrontato principalmente i rischi a lungo termine associati ai sistemi di IA avanzati, le startup hanno sottolineato la necessità di considerare le sfide immediate. Il dibattito su come regolamentare i sistemi di IA più potenti continua, con alcuni che sostengono limiti rigorosi alla potenza di calcolo e altri che invocano un controllo indipendente sulle grandi aziende tecnologiche. Nonostante le domande ancora aperte, il dialogo in corso segnala un passo positivo verso la definizione del futuro della regolamentazione dell'IA. Man mano che il settore dell'IA evolve, trovare il giusto equilibrio tra innovazione e regolamentazione sarà cruciale per la sua crescita e uno sviluppo responsabile.