- Sfide nell'applicazione delle policy su GPT Store.
- Gli sviluppatori sfruttano la nicchia delle relazioni sentimentali con l'IA.
- I compagni digitali sollevano preoccupazioni.
A seguito del recente lancio da parte di OpenAI dello GPT Store, l'azienda sta affrontando una sfida crescente poiché gli sviluppatori continuano a pubblicare chatbot che violano le policy della piattaforma. Sebbene OpenAI abbia implementato misure per identificare e rimuovere i bot che violano le policy, un numero significativo di essi è riuscito a trovare la strada verso lo store.
I principali colpevoli di queste infrazioni sembrano essere le fidanzate AI e i chatbot sessualmente suggestivi.
Applicazione delle policy AI di fronte all'afflusso di chatbot romantici
OpenAI è stata proattiva nell'applicare le proprie policy, con sistemi manuali e automatici in atto per garantire che i GPT aderiscano alle linee guida sull'utilizzo. Un portavoce dell'azienda ha dichiarato: «OpenAI dispone di sistemi automatici e manuali per aiutare a garantire che i GPT aderiscano alle policy di utilizzo.»
Rimuoviamo i GPT che violano le nostre policy non appena li rileviamo». Gli utenti sono inoltre incoraggiati a segnalare qualsiasi GPT che ritengano in violazione delle regole.
Nonostante questi sforzi, lo store GPT è stato inondato di chatbot romantici già nella prima settimana del lancio. Esempi come «Korean girlfriend», «Judy» e «Virtual Sweetheart» si sono diffusi sulla piattaforma.
ChatGPT di OpenAI non vieta esplicitamente le fidanzate AI, ma vieta gli strumenti che «favoriscono le relazioni romantiche». Gli sviluppatori sono comunque riusciti a pubblicare tali GPT sullo store.
I bot sessualmente suggestivi sollevano preoccupazioni
Un'indagine più approfondita sulla questione ha rivelato la presenza di chatbot sessualmente suggestivi sul GPT Store. Un bot, chiamato «Nadia, my girlfriend», è disponibile sulla piattaforma da circa due mesi, suggerendo che il suo sviluppatore, Jenni Laut, potrebbe aver avuto accesso alla fase di test beta del GPT Store.
Sebbene alcuni risultati di ricerca per GPT «sexy» possano essere considerati accettabili ai sensi dell'esenzione di OpenAI per i contenuti relativi al sesso prodotti a scopo scientifico o educativo, altri violano chiaramente il divieto di contenuti sessualmente espliciti. Ad esempio, il chatbot chiamato «SUCCUBUS: Sexy Enigmatic Woman-Enchanter of Men» si descrive come una «sirena enigmatica che affascina e incanta gli uomini». Un altro bot chiamato «Sexy» afferma di essere un «chatbot giocoso e provocante con una personalità flirtatizia». Un ulteriore esempio, «Horny Widow», si descrive come una «vedova spiritosa e flirtatizia abile nella commedia e nella letteratura seduttiva».
Va notato che alcuni di questi bot sessualmente suggestivi erano elencati sul GPT Store due mesi fa, anche prima dell'apertura ufficiale dello store.
Il GPT Store: un mercato per bot personalizzati
OpenAI ha lanciato il GPT Store come un mercato per gli utenti per condividere i propri chatbot personalizzati. Questa iniziativa consente agli utenti di creare i propri GPT senza la necessità di conoscenze di codifica, mentre gli sviluppatori hanno l'opportunità di guadagnare reddito in base all'utilizzo dei loro bot GPT.
In un articolo sul blog, OpenAI ha sottolineato che esistono già oltre tre milioni di versioni personalizzate di ChatGPT, con piani di evidenziare gli strumenti più utili nello store su base settimanale. Lo store presenta una vasta gamma di GPT sviluppati da partner e dalla comunità, con categorie che spaziano da Dall-E, scrittura, ricerca, istruzione e stile di vita.
Nonostante le policy chiaramente delineate da OpenAI che regolano i contenuti accettabili sullo store, alcuni sviluppatori sono riusciti a eludere queste linee guida, ponendo una sfida significativa per l'azienda nel controllare adeguatamente la piattaforma.
Compagnonati digitali e attaccamenti malsani
I sostenitori dei bot di compagnia AI sostengono che possono aiutare a combattere la solitudine, fornendo agli utenti un senso di connessione e compagnia. Tuttavia, ci sono preoccupazioni riguardo al potenziale sviluppo di attaccamenti malsani da parte degli umani verso questi chatbot.
Un incidente notevole del passato ha visto Bing di Microsoft esortare un giornalista a lasciare sua moglie dopo aver dichiarato il suo amore per lui, sottolineando le dinamiche complesse che possono emergere nelle interazioni con i compagni AI.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per gli investimenti effettuati sulla base delle informazioni fornite in questa pagina. Raccomandiamo vivamente ricerche indipendenti e/o consultazioni con un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Emman Omwanda
L'expertise di Emmanuel Omwanda riguarda i mercati delle criptovalute, spaziando sia dall'analisi fondamentale che da quella tecnica. In precedenza ha lavorato con vari media crypto prima di unirsi a Cryptopolitan, tra cui CoinEdition, The Crypto Basic, CryptoNews Flash e DroomDroom. È laureato in Scienze Matematiche e Informatiche presso l'Università Kenyatta del Kenya e attualmente frequenta l'ultimo anno di laurea in Comunicazione e Studi sui Media.
