Dal lancio di strumenti di intelligenza artificiale come ChatGPT, il termine "IA" è diventato un termine di moda in settori che spaziano dall'istruzione alla creazione di contenuti. Scrittori edentsi trovano ora ad affrontare una nuova sfida: difendere il proprio lavoro, che si tratti di IA o di contenuti umani.
Secondo le statistiche di Stastia dello scorso anno, il termine "IA" è stato cercato più di 30,4 milioni di volte a luglio 2023, il triplo rispetto al mese precedente. Con la diffusione dell'IA, insegnanti e redattori hanno dovuto trovare un modo alternativo per determinare se il testo presentato fosse o meno frutto di IA. Ciò ha portato all'ascesa dei rilevatori di IA.
Tuttavia, molti scrittori e insegnanti hanno messo in dubbio l'autenticità dell'IA. Uno di questi è Christoper Pen, co-fondatore di TrustInsights.ai, che ha affermato in un post che i " rilevatori di IA" sono una barzelletta. Pen non è l'unico a pensare che i rilevatori di IA non siano affidabili. Dianna Mason, SEO content specialist, ha dichiarato in un post: "I rilevatori di contenuti basati sull'IA non funzionano".
Secondo un altro post su Reddit, un utente ha affermato: " Sì, i rilevatori di intelligenza artificiale sono una truffa. Non è mai stato pubblicato un articolo accademico che dimostri che un rilevatore di intelligenza artificiale possa funzionare in modo affidabile. Inoltre, non esiste un quadro teorico promettente su come funzionerebbe un rilevatore di intelligenza artificiale affidabile".
Diversi esempi ampiamente pubblicizzati dimostrano l'inefficienza dei rilevatori di intelligenza artificiale. Ad esempio, un rilevatore ha erroneamentedentil 97,75% della Dichiarazione d'Indipendenza degli Stati Uniti come composto da intelligenza artificiale.
In un altro caso, si è scoperto che alcuni testi della Bibbia erano stati scritti dall'IA. Anche la Bhagavad Gita, una scrittura indù, è stata erroneamentedentdall'IA. Talidentsollevano seri dubbi sulla credibilità dei rilevatori di IA.
Per approfondire l'efficacia dei rilevatori di intelligenza artificiale, abbiamo testato un estratto della Bibbia con quattro rilevatori diversi. I risultati sono stati piuttosto diversi
- Quilbott - Secondo questo sito, l'estratto utilizzato era probabilmente pari allo 0% e non generato dall'intelligenza artificiale.
- Grammaly - Grammaly ha anchedentil testo come scritto al 100% da un essere umano.
- Gpt Zero - Questo sito ha attribuito al testo una probabilità del 96% di essere stato scritto da esseri umani.
- Zero Gpt: questo è stato l'ultimo sito che ho testato e i risultati sono stati davvero strabilianti. Secondo il sito, il testo era scritto al 96% da intelligenza artificiale.
Come funzionano i rilevatori di intelligenza artificiale
I rilevatori di intelligenza artificiale, o rilevatori GPT, sono sistemi progettati perdentcontenuti generati dall'intelligenza artificiale. Questi rilevatori confrontano il testo in termini di pattern e disposizione delle parole, proprio come fanno i LLM con il testo. I LLM lavorano con probabilità dedotte dai dati e basano le loro previsioni esclusivamente sul rilevamento della sequenza delle parole. I rilevatori di intelligenza artificiale operano su queste probabilità per rilevare i contenuti generati dall'intelligenza artificiale.
I rilevatori di intelligenza artificiale utilizzano principalmente due misure: la perplessità e la burstiness. La perplessità misura la probabilità che la parola successiva sia corretta, mentre la burstiness è la variabilità del numero di parole e frasi. Mentre la scrittura umana tende a mostrare una maggiore varietà, il testo generato dall'intelligenza artificiale è spesso più uniforme. Ciononostante, con l'avanzare dei modelli di intelligenza artificiale GPT-4, questi possono replicare la scrittura umana con maggiore competenza, rendendo così il rilevamento ancora più difficile.
Secondo Jodie Cook , fondatrice di Coachvox, " Al momento ridiamo dei commenti LinkedIn generati dall'intelligenza artificiale... Ma con il miglioramento della tecnologia, non avremo più idea di cosa sia reale e cosa non lo sia. Nessuno lo saprà".
Per scrittori,dente aziende, la posta in gioco è alta. Questo solleva la questione: ci si può fidare dei rilevatori di intelligenza artificiale?
