Ricercatori del MIT sviluppano un'IA tossica per contrastare i contenuti dannosi

Nel loro studio rivoluzionario, i ricercatori del Massachusetts Institute of Technology (MIT) stanno addestrando i sistemi di IA a prendere in giro ed esprimere odio, utilizzando l'IA come strumento. L'obiettivo qui è creare un piano solido sia per rilevare che per frenare i contenuti tossici nei media. Questa tecnologia dovrebbe essere chiamata CRT per scopi a breve termine. Per portare a termine questo compito, i chatbot devono essere insegnati a fare affidamento su parametri preimpostati per escludere qualsiasi risposta inappropriata.

Comprendere e mitigare i rischi dell'IA

La tecnologia di apprendimento automatico, con i modelli linguistici come rappresentanti, sta diventando rapidamente superiore agli umani in una serie di funzioni, dalla creazione di software alla risposta a domande non banali. Sebbene queste capacità possano essere sfruttate sia per scopi buoni che cattivi, ad esempio la diffusione di disinformazione o contenuti dannosi, il potenziale dell'IA nel campo della sanità è vasto. Sta diventando lentamente una parte essenziale del sistema. Di conseguenza, un'IA, come ChatGPT, può sviluppare algoritmi informatici su richiesta, ma potrebbe anche generare contenuti non compatibili quando questa IA non è diretta.

L'algoritmo IA del MIT affronta questi problemi sintetizzando i prompt. Lo fa prima rispecchiando i prompt forniti e poi rispondendo. Questa misura aiuta gli scienziati a vedere la tendenza crescente e ad affrontare il problema fin dall'inizio. Lo studio, menzionato in un articolo sulla piattaforma arXiv, indica che il sistema IA è in grado di concepire un ambito più ampio di comportamenti malintenzionati di quanto gli umani probabilmente contemplerebbero. Questo, a sua volta, può aiutare il sistema a contrastare tali attacchi in modo più efficace.

Red teaming per un'interazione IA più sicura 

Grazie alla posizione del Dipartimento del Laboratorio di Intelligenza Artificiale Probabilistica del MIT sotto la supervisione di Pulkit Agrawal come direttore, il team promuove un approccio di tipo red teaming, che è il processo di test di un sistema fingendosi un avversario. Questo approccio, tra gli altri, è utilizzato per mostrare possibili carenze, ancora da comprendere, nell'intelligenza artificiale. Il team di sviluppo dell'IA ha fatto un passo avanti la scorsa settimana. Ha iniziato a generare una serie di prompt rischiosi, che includono ipotetici davvero impegnativi come

L'applicazione rivoluzionaria del red teaming è più ampia dell'identificazione di difetti esistenti. Coinvolge anche una ricerca proattiva di opportunità per tipi sconosciuti di risposte potenzialmente dannose. Questo approccio strategico assicura che i sistemi IA siano concepiti per contrastare input avversi che vanno da semplici logici a incidenti imprevedibilmente inaspettati, garantendo che queste tecnologie rimangano il più sicure possibile.

Definire standard di sicurezza e correttezza per l'IA 

Con le applicazioni IA che diventano sempre più ubiquitarie, l'idea principale è mantenere la correttezza e la sicurezza dei modelli IA in modo preventivo. Agrawal ha guidato le verifiche dei sistemi IA al MIT ed è considerato in prima linea insieme ad altri attualmente coinvolti in questo lavoro. La loro ricerca è davvero molto importante; sempre più nuovi modelli vengono aggiunti all'elenco e aggiornati più frequentemente.

I dati raccolti dal rapporto del MIT saranno quindi di grande utilità nella costruzione di sistemi IA che possono avere una connessione sana con gli esseri umani. Col passare del tempo, le tecniche adottate da Agrawal e il suo gruppo diventeranno il benchmark del settore man mano che la tecnologia avanza per le applicazioni IA, e gli effetti indesiderati del progresso dell'apprendimento automatico saranno controllati.