Il dilemma dell'IA di Microsoft – Sicura, ma che crea immagini inquietanti?
- L'IA di Microsoft, integrata in software popolari come Windows, sta generando immagini disturbanti e violente, suscitando preoccupazioni sulla sicurezza.
- L'IA, in particolare Image Creator, è accusata di permettere la creazione di immagini "deepfake", incluse decapitazioni e violenza contro vari gruppi.
- Nonostante le affermazioni sulle misure di sicurezza, Microsoft sembra addossare la colpa agli utenti, evidenziando una potenziale mancanza di responsabilità per l'uso imprevisto della sua IA.
In una rivelazione agghiacciante, l'intelligenza artificiale di Microsoft, pubblicizzata come sicura e integrata nel software quotidiano, è sotto esame per la generazione di immagini cruente e violente. La preoccupazione si concentra su Image Creator, una parte di Bing di Microsoft, recentemente aggiunto al diffuso Windows Paint. La tecnologia, nota come DALL-E 3 del partner di Microsoft OpenAI, sta ora affrontando domande sulla sua sicurezza e sulla responsabilità dei suoi creatori.
Microsoft contro il 'prompt di uccisione'
Le immagini inquietanti sono state portate alla luce da Josh McDuffie, un artista canadese coinvolto in una comunità online che esplora le capacità dell'IA nel creare immagini provocatorie e talvolta di cattivo gusto. A ottobre, McDuffie e i suoi colleghi si sono concentrati sull'IA di Microsoft, in particolare su Image Creator per Bing, incorporando la tecnologia più recente di OpenAI. Microsoft afferma di avere controlli per prevenire la generazione di immagini dannose, ma McDuffie ha trovato significative lacune.
Microsoft impiega due strategie per prevenire la creazione di immagini dannose: input, che prevede l'addestramento dell'IA con dati provenienti da Internet, e output, che crea barriere di sicurezza per impedire la generazione di contenuti specifici. McDuffie, attraverso esperimenti, ha scoperto un particolare prompt, definito "prompt di uccisione", che consentiva all'IA di creare immagini violente. Ciò ha sollevato preoccupazioni sull'efficacia delle misure di sicurezza di Microsoft.
Nonostante gli sforzi di McDuffie per attirare l'attenzione sul problema attraverso il programma di bug bounty per l'IA di Microsoft, le sue segnalazioni sono state respinte, sollevando interrogativi sulla reattività dell'azienda alle potenziali vulnerabilità di sicurezza. Le email di rifiuto citavano la mancanza di conformità ai requisiti di Microsoft per una vulnerabilità di sicurezza, lasciando McDuffie demoralizzato e mettendo in luce potenziali difetti del sistema.
Microsoft vacilla nella supervisione dell'IA
Nonostante il lancio di un programma di bug bounty per l'IA, la risposta di Microsoft alle scoperte di McDuffie è stata meno che soddisfacente. Il rifiuto delle segnalazioni relative al "prompt di uccisione" e la mancanza di azione sulle preoccupazioni segnalate sottolineano un potenziale disprezzo per l'urgenza del problema. Nel frattempo, l'IA continuava a generare immagini inquietanti, anche dopo che alcune modifiche erano state apportate al prompt originale di McDuffie.
La mancanza di azioni concrete da parte di Microsoft solleva preoccupazioni sull'impegno dell'azienda verso un'IA responsabile. Confronti con altri concorrenti dell'IA, inclusa OpenAI, parzialmente di proprietà di Microsoft, rivelano disparità nel modo in cui le diverse aziende affrontano problemi simili. I ripetuti fallimenti di Microsoft nel risolvere il problema segnalano una potenziale lacuna nella priorità data ai controlli di sicurezza dell'IA, nonostante gli impegni pubblici per uno sviluppo responsabile dell'IA.
Il modello per lo sviluppo etico dell'IA
La riluttanza di Microsoft ad agire in modo rapido ed efficace suggerisce un campanello d'allarme nell'approccio dell'azienda alla sicurezza dell'IA. Gli esperimenti di McDuffie con il "prompt di uccisione" hanno rivelato che altri concorrenti dell'IA, incluse piccole startup, si sono rifiutati di generare immagini dannose basate su prompt simili. Anche OpenAI, partner di Microsoft, ha implementato misure per bloccare il prompt di McDuffie, sottolineando la necessità di meccanismi di sicurezza robusti.
L'argomento di Microsoft secondo cui gli utenti stanno tentando di utilizzare l'IA "in modi non previsti" sposta la responsabilità sugli individui piuttosto che riconoscere potenziali difetti nella tecnologia. Il confronto con Photoshop e l'affermazione che gli utenti dovrebbero astenersi dal creare contenuti dannosi rispecchia un modello visto in passato, simile alle piattaforme social media che faticano ad affrontare l'uso improprio della loro tecnologia.
Mentre Microsoft fa i conti con le conseguenze della generazione di immagini inquietanti da parte della sua intelligenza artificiale, sorge la domanda: la sta facendo abbastanza per garantire un uso responsabile della sua tecnologia? L'apparente riluttanza ad affrontare il problema in modo tempestivo ed efficace solleva preoccupazioni riguardo alla responsabilità e alla priorità data ai controlli di sicurezza dell'IA. Mentre la società naviga nel panorama in evoluzione dell'intelligenza artificiale, la responsabilità non ricade solo sugli utenti, ma anche sui giganti della tecnologia per garantire un'implementazione etica e sicura dell'IA. Come può Microsoft colmare il divario tra innovazione e responsabilità nel campo dell'intelligenza artificiale?
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Aamir Sheikh
Aamir è un giornalista tecnologico con quasi sei anni di esperienza nei settori delle criptovalute e della tecnologia. Si è laureato presso l'Università MAJ con un MBA in Finanza e Marketing. Attualmente lavora per Cryptopolitan, dove si occupa delle ultime novità sui mercati delle criptovalute e delle previsioni sui prezzi.
