Un ingegnere Microsoft solleva preoccupazioni sulla creazione di immagini violente e sessuali da parte dello strumento di intelligenza artificiale

Un ingegnere Microsoft ha lanciato l'allarme sul generatore di immagini basato sull'intelligenza artificiale dell'azienda, avvertendo della sua propensione a produrre contenuti violenti e sessuali, ignorando le leggi sul copyright. Shane Jones, responsabile principale dell'ingegneria del software presso Microsoft, ha testato attivamente il prodotto, noto come Copilot Designer, nel suo tempo libero. Le sue scoperte, che includono immagini inquietanti come demoni, insieme a temi come il diritto all'aborto, il consumo di alcol da parte di minorenni e l'uso di droghe, lo hanno spinto a segnalare la questione alle autorità superiori.

Le preoccupazioni di Jones e le azioni intraprese

Jones, che lavora in Microsoft da sei anni, ha iniziato a testare Copilot Designer nell'ambito del suo ruolo di membro del Red Team, incaricato didentle vulnerabilità nella tecnologia di intelligenza artificiale. Turbato dalle immagini generate dallo strumento, che riteneva non sicure e potenzialmente dannose, Jones ha segnalato i suoi risultati internamente a Microsoft, ma ha scoperto che l'azienda era riluttante a intraprendere azioni decisive. Nonostante i suoi sforzi per sollevare preoccupazioni, tra cui la pubblicazione di una lettera aperta su LinkedIn e il contatto con i senatori statunitensi, Jones si è sentito in dovere di portare ulteriormente la questione all'attenzione del pubblico.

Escalation al presidente della FTC e al consiglio di amministrazione di Microsoft

Nel tentativo di risolvere i problemi in corso con Copilot Designer, Jones ha inviato lettere alla presidente della Federal Trade Commission, Lina Khan, e al consiglio di amministrazione di Microsoft. Ha esortato la FTC a indagare sulla questione e ha chiesto a Microsoft di implementare modifiche come l'aggiunta di informative al prodotto e l'adeguamento della classificazione dell'app per riflettere i contenuti per adulti. Jones ha inoltre chiesto al consiglio di amministrazione di Microsoft di avviare una revisionedent dei processi di segnalazione deglident di intelligenza artificiale dell'azienda.

Preoccupazioni sull'intelligenza artificiale generativa e mancanza di supervisione

Le azioni di Jones evidenziano preoccupazioni più ampie riguardo alla mancanza di supervisione sulla tecnologia di intelligenza artificiale generativa. Considerata la potenziale diffusione su larga scala di contenuti dannosi, in particolare nel contesto delle prossime elezioni, Jones sottolinea l'urgente necessità di misure di sicurezza più rigorose. Osserva che il team di Copilot riceve quotidianamente numerosi messaggi di feedback sui prodotti, il che indica una sfida significativa nell'affrontare tempestivamente tutte le problematiche.

Violazione del copyright e problemi di contenuto

Oltre alla creazione di immagini violente e a sfondo sessuale, Copilot Designer solleva anche preoccupazioni in merito alla violazione del copyright. È stato osservato che lo strumento genera immagini con personaggi protetti da copyright come Elsa della Disney e i personaggi di Star Wars, violando potenzialmente sia le leggi sul copyright sia le policy di Microsoft. Jones sottolinea che il problema va oltre le violazioni del copyright, evidenziando le implicazioni più ampie della diffusione di immagini dannose e inquietanti a livello globale.

Gli sforzi di Shane Jones per affrontare le preoccupazioni relative al generatore di immagini AI di Microsoft sottolineano la crescente necessità di una solida supervisione e regolamentazione nel campo dell'IA generativa. Le sue azioni rappresentano un invito all'azione sia per le autorità di regolamentazione che per le aziende tecnologiche a dare priorità alla sicurezza e all'uso etico delle tecnologie di IA.