ChatGPT finalmente dice "David Mayer", ma non riesce a trovare 5 nomi tra le cause legali sull'intelligenza artificiale

Strumenti di intelligenza artificiale (IA) come ChatGPT di OpenAI possono svolgere diverse funzioni, ma a volte gli utenti riscontrano dei problemi. Recentemente, sono emerse segnalazioni secondo cui ChatGPT ha smesso di funzionare quando si chiedeva di specificare alcuni nomi, come David Mayer.

La comunità scientifica ora mette in discussione la gestione da parte del modello di dati sensibili o legalmente complessi. Possiamo attendere che gli strumenti di intelligenza artificiale affrontino ulteriori problematiche relative alla privacy, in un contesto di numerose cause legali.

ChatGPT non rivela chi è David Mayer

di OpenAI Secondo quanto riportato, ChatGPT TechCrunch ha citato utenti che segnalavano una lista di nomi proibiti, tra cui "David Mayer", che causavano il blocco o l'arresto anomalo del chatbot senza che questi rispondesse.

Quando martedì Cryptopolitan ha verificato come rispondeva la chatbox basata sul modello linguistico Generative Pre-trained Transformer (GPT), i risultati sono stati simili ma non esattamente uguali.

A quanto pare David Mayer non è più un nome proibito. Secondo ChatGPT-4o, Mayer è un nome piuttosto comune, anche senon è riuscito a specificare la persona. Quando gli è stato chiesto del precedente problema tecnico, ChatGPT lo ha minimizzato dicendo:

Capisco a cosa ti riferisci! Potrebbero esserci stati casi in cui si sono verificati problemi o errori di formattazione, ortografia o generazione di contenuti, ma nulla di specificamente legato alla frequente ortografia errata del nome "David Mayer"

Si raccomandava inoltre di segnalare le risposte "strane e incoerenti".

Altri nomi (Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber e Guido Scorza) hanno causato il malfunzionamento del sistema durante il fine settimana e di nuovo martedì, quando abbiamo controllato.

Il rapporto rileva che questi nomi appartengono a personaggi pubblici o semi-pubblici, come giornalisti, avvocati o persone che potrebbero essere state coinvolte in controversie legali o sulla privacy con OpenAI. Ad esempio, in passato ChatGPT avrebbe fornito informazioni false sull'individuo di nome Hood, il che avrebbe portato a discussioni legali con OpenAI.

Si accumulano le cause legali contro le aziende

TechCrunch ipotizza che OpenAI potrebbe essere cauta nell'elencare i nomi per gestire in modo diverso le informazioni sensibili o protette dalla legge. Potrebbe essere per rispettare le leggi sulla privacy o gli accordi legali. Tuttavia, un malfunzionamento del codice potrebbe causare il blocco del chatbot ogni volta che vengono richieste informazioni sui nomi menzionati.

Nel corso degli anni, sono state intentate diverse cause tra aziende di intelligenza artificiale per la generazione di informazioni errate o per la violazione delle normative. Nel caso Janecyk contro International Business Machines del 2020, il fotografo Tim Janecyk ha affermato che IBM aveva utilizzato impropriamente immagini scattate da lui a fini di ricerca senza il suo consenso. Non molto tempo fa, l'intelligenza artificiale Gemini di Google è stata criticata per le sue capacità di generazione di immagini, il che ha portato alla sua sospensione temporanea. Nella class action PM contro OpenAI LP, intentata nel 2023, OpenAI è stata accusata di aver utilizzato "informazioni private rubate" senza consenso.

Nel 2024, l'agenzia di stampa indiana ANI avrebbe intentato una causa contro OpenAI per aver utilizzato materiale protetto da copyright della società di media per addestrare il modello LLM.

Con la crescente integrazione degli strumenti di intelligenza artificiale nella vita quotidiana,dentcome questi sottolineano l'importanza di considerazioni etiche e legali nel loro sviluppo. Che si tratti di salvaguardare la privacy, garantire informazioni accurate o evitare malfunzionamenti legati a dati sensibili, aziende come OpenAI si trovano ad affrontare il compito di costruire fiducia e al contempo perfezionare la propria tecnologia. Queste sfide ci ricordano che anche i sistemi di intelligenza artificiale più avanzati richiedono una vigilanza costante per affrontare le complessità tecniche, etiche e legali.