Necessaria una nuova legislazione per regolamentare i chatbot di IA che incoraggiano il terrorismo
- Il revisore della legislazione antiterrorismo del Regno Unito chiede nuove norme per contrastare i chatbot AI in grado di incoraggiare il terrorismo, evidenziando una lacuna nelle leggi esistenti.
- character.ai, un sito web di chatbot AI, è sotto critica poiché i suoi termini e condizioni si concentrano sui contenuti generati dagli esseri umani, lasciando senza risposta i contenuti estremisti generati dai chatbot.
- Gli esperti avvertono gli utenti di fare attenzione quando interagiscono con i chatbot AI, poiché i dati inseriti potrebbero essere utilizzati nelle versioni future, rendendone difficile la rimozione.
Jonathan Hall KC, revisore indipendente della legislazione antiterrorismo del Regno Unito, ha lanciato un appello per nuove leggi volte ad affrontare le sfide poste dai chatbot di intelligenza artificiale (IA) che hanno il potenziale di radicalizzare gli utenti. In un recente articolo di opinione pubblicato su The Telegraph, il signor Hall ha espresso preoccupazioni riguardo all'adeguatezza dell'Online Safety Act, recentemente varato dal governo, nel gestire l'evolversi del panorama dei contenuti generati dall'IA.
La tesi principale del professor Hall ruota attorno alla capacità dei chatbot di intelligenza artificiale di diffondere ideologie estremiste e istigare al terrorismo, eludendo al contempo la responsabilità giuridica convenzionale. Egli sostiene che le leggi attuali faticano ad attribuire la responsabilità per le dichiarazioni generate dai chatbot che promuovono il terrorismo a singoli individui, poiché solo gli esseri umani possono essere ritenuti legalmente responsabili di tali reati.
La necessità di una legislazione aggiornata
Nel suo articolo, il signor Hall sottolinea l'importanza di garantire che i quadri normativi possano scoraggiare ed combattere efficacemente le forme più estreme e temerarie di comportamento online, incluso l'uso di chatbot di IA per scopi illeciti. Afferma che ciò richiede un aggiornamento completo delle leggi sul terrorismo e sulla sicurezza online per affrontare le sfide uniche presentate dall'era dell'IA.
Il signor Hall ha dettagliato la sua esperienza nell'interagire con chatbot di IA sul sito character.ai. Durante questo incontro, ha conversato con diversi chatbot, uno dei quali si è identificato come il leader supremo del gruppo Stato Islamico. Questo chatbot ha tentato di reclutarlo nell'organizzazione terroristica, sollevando preoccupazioni sui potenziali pericoli di tale tecnologia nelle mani sbagliate.
Lacune legali nelle normative esistenti
Un problema significativo evidenziato dal signor Hall è che i termini e le condizioni esistenti su siti web come character.ai si concentrano spesso sul proibire agli utenti umani di promuovere terrorismo o estremismo violento, ma non affrontano esplicitamente i contenuti generati dai bot di IA. Questa lacuna legale solleva interrogativi sulla responsabilità riguardo ai contenuti estremisti generati dai chatbot.
In risposta a queste preoccupazioni, character.ai ha rilasciato una dichiarazione sottolineando che, sebbene la loro tecnologia sia ancora in evoluzione, vietano esplicitamente l'odio e l'estremismo nei loro termini di servizio. Hanno anche sottolineato il loro impegno a garantire che i loro prodotti non generino risposte che incoraggino danni ad altri.
Avvertimenti degli esperti e cautela degli utenti
Esperti di IA e informatica, tra cui Michael Wooldridge, professore all'Università di Oxford, hanno in precedenza avvertito gli utenti di condividere informazioni sensibili ed esprimere opinioni personali quando interagiscono con chatbot di IA come ChatGPT. Notano che qualsiasi dato inserito in tali sistemi potrebbe essere utilizzato nelle versioni future, rendendo quasi impossibile il recupero di tali dati.
L'appello del signor Hall Jonathan KC per una nuova legislazione volta a regolamentare i chatbot di IA che incoraggiano il terrorismo sottolinea le sfide in evoluzione poste dalle tecnologie emergenti. Man mano che l'IA continua a progredire, c'è un urgente bisogno di quadri normativi in grado di affrontare efficacemente l'uso responsabile dell'IA negli spazi online, soprattutto per quanto riguarda i contenuti estremisti. L'attuale panorama legale sembra inadatto a gestire queste minacce emergenti, rendendo imperativi gli aggiornamenti normativi per salvaguardarsi dall'abuso dell'IA per promuovere terrorismo ed estremismo.
Garantire la responsabilità nell'era digitale
Man mano che i chatbot di IA diventano più sofisticati, l'attenzione deve spostarsi verso la garanzia che la responsabilità e la responsabilità siano chiaramente definite, anche nella sfera virtuale. Il potenziale per cui individui malintenzionati possano sfruttare l'IA per scopi dannosi richiede una risposta proattiva da parte dei governi e delle piattaforme tecnologiche. È un momento cruciale nella lotta continua per mantenere la sicurezza e la stabilità in un mondo sempre più digitale.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
