I rilevatori di intelligenza artificiale sono ancora efficaci?

Dal lancio di strumenti di intelligenza artificiale come ChatGPT, il termine "IA" è diventato un termine di moda in settori che spaziano dall'istruzione alla creazione di contenuti. Scrittori edentsi trovano ora ad affrontare una nuova sfida: difendere il proprio lavoro, che si tratti di IA o di contenuti umani. 

Secondo le statistiche di Stastia dello scorso anno, il termine "IA" è stato cercato più di 30,4 milioni di volte a luglio 2023, il triplo rispetto al mese precedente. Con la crescente diffusione dell'IA, insegnanti ed editori hanno dovuto trovare un modo alternativo per determinare se un testo fosse stato generato dall'IA o meno. Ciò ha portato alla nascita dei rilevatori di IA.

Tuttavia, molti scrittori ed educatori hanno messo in dubbio l'autenticità dell'IA. Uno di questi è Christopher Pen, co-fondatore di TrustInsights.ai, che in un post che i " rilevatori di IA" sono una barzelletta. Pen non è l'unico a pensare che i rilevatori di IA non siano affidabili. Dianna Mason, specialista di contenuti SEO, ha dichiarato in un post: "I rilevatori di contenuti basati sull'IA non funzionano".

Secondo un altro post su Reddit, un utente ha affermato: "Sì, i rilevatori basati sull'IA sono una truffa. Non è mai esistito uno studio accademico che dimostri che un rilevatore basato sull'IA possa funzionare in modo affidabile. Inoltre, non esiste un quadro teorico promettente su come un rilevatore basato sull'IA potrebbe funzionare in modo affidabile."

Diversi esempi ampiamente pubblicizzati dimostrano l'inefficienza dei rilevatori di intelligenza artificiale. Ad esempio, un rilevatore ha erroneamentedentil 97,75% della Dichiarazione d'Indipendenza degli Stati Uniti come composto da intelligenza artificiale. 

In un altro caso, si è scoperto che alcuni testi della Bibbia erano stati scritti dall'IA. Anche la Bhagavad Gita, una scrittura indù, è stata erroneamentedentdall'IA. Talidentsollevano seri dubbi sulla credibilità dei rilevatori di IA.

Per approfondire l'efficacia dei rilevatori di intelligenza artificiale, abbiamo testato un estratto della Bibbia con quattro rilevatori diversi. I risultati sono stati piuttosto diversi

• Quilbott - Secondo questo sito, l'estratto utilizzato era probabilmente pari allo 0% e non generato dall'intelligenza artificiale.
• Grammaly - Grammaly ha anchedentil testo come scritto al 100% da un essere umano.
• Gpt Zero - Questo sito ha attribuito al testo una probabilità del 96% di essere stato scritto da esseri umani.
• Zero Gpt: questo è stato l'ultimo sito che ho testato e i risultati sono stati davvero strabilianti. Secondo il sito, il testo era scritto al 96% da intelligenza artificiale.

Come funzionano i rilevatori di intelligenza artificiale

I rilevatori di intelligenza artificiale, o rilevatori GPT, sono sistemi progettati perdentcontenuti generati dall'intelligenza artificiale. Questi rilevatori confrontano il testo in termini di pattern e disposizione delle parole, proprio come fanno i LLM con il testo. I LLM lavorano con probabilità dedotte dai dati e basano le loro previsioni esclusivamente sul rilevamento della sequenza delle parole. I rilevatori di intelligenza artificiale operano su queste probabilità per rilevare i contenuti generati dall'intelligenza artificiale. 

I rilevatori di intelligenza artificiale utilizzano principalmente due misure: la perplessità e la burstiness. La perplessità misura la probabilità che la parola successiva sia corretta, mentre la burstiness è la variabilità del numero di parole e frasi. Mentre la scrittura umana tende a mostrare una maggiore varietà, il testo generato dall'intelligenza artificiale è spesso più uniforme. Ciononostante, con l'avanzare dei modelli di intelligenza artificiale GPT-4, questi possono replicare la scrittura umana con maggiore competenza, rendendo così il rilevamento ancora più difficile. 

Secondo Jodie Cook, fondatrice di Coachvox, "Al momento ridiamo dei commenti generati dall'intelligenza artificiale su LinkedIn... Ma con il miglioramento della tecnologia, non avremo più idea di cosa sia vero e cosa no. Nessuno lo saprà."

Per scrittori,dente aziende, la posta in gioco è alta. Questo solleva la questione: ci si può fidare dei rilevatori di intelligenza artificiale?