L'organismo di controllo dei titoli cinesi ha promesso di migliorare ulteriormente il suo lavoro di monitoraggio delle informazioni false nel mercato azionario e di collaborare con la polizia e gli enti di regolamentazione del cyberspazio per rendere giustizia ai colpevoli di diffondere notizie false.
Le fake news esistevano già in passato e continuano a causare danni. Tuttavia, la proliferazione dell'intelligenza artificiale ha reso la diffusione delle fake news più facile che mai. Spetta alle autorità di regolamentazione "colpire subito, duramente e al cuore" del problema, secondo il Securities Times.
L'intelligenza artificiale è diventata uno strumento per diffondere disinformazione
L'intelligenza artificiale, in particolare l'IA generativa, si è sviluppata al punto da diventare una minaccia per la circolazione di informazioni vere.
Chiunque potrebbe mettere le mani su un'intelligenza artificiale e, se abbastanza determinato, potrebbe crearne una propria.
Secondo quanto riportato da Shanghai Securities News in un articolo separato, queste IA vengono ora utilizzate per diffondere informazioni fuorvianti allo scopo di truffare gli investitori o manipolare le azioni.
Gli investitori avidi cadono rapidamente vittime della prospettiva di arricchirsi rapidamente, e coloro che sono stati truffati hanno fatto ricorso alla diffusione della sfiducia nell'intelligenza artificiale. Chi può biasimarli? È difficile abbracciare una tecnologia quando si è stati esposti al suo lato oscuro.
Nonostante il potenziale pericolo, l'emergere di aziende come la startup cinese di intelligenza artificiale DeepSeek ha spinto gli investitori al dettaglio e i gestori di fondi a utilizzare l'intelligenza artificiale per valutare le aziende e investire.
🚀 DeepSeek-R1 è qui!
⚡ Prestazioni pari a OpenAI-o1
📖 Modello e report tecnico completamente open source
🏆 Licenza MIT: distilla e commercializza liberamente!🌐 Sito web e API sono ora attivi! Prova DeepThink su https://t.co/v1TFy7LHNy oggi stesso!
🐋 1/n pic.twitter.com/7BlpWAPu6y
– DeepSeek (@deepseek_ai) 20 gennaio 2025
Un fattore che pone dei rischi all'adozione della tecnologia è il timore che gli investitori vengano ingannati dalle fake news create dall'intelligenza artificiale.
Secondo il Securities Times, la China Securities Regulatory Commission diventerà più proattiva nell'eliminare le voci sul mercato azionario, rilasciando chiarimenti e incoraggiando l'educazione degli investitori, fornendo al contempo indicazioni che aiuteranno gli investitori a individuare le informazioni false.
Venerdì, le autorità cinesi hanno emanato delle linee guida che impongono l' apposizione di etichette su tutti i contenuti generati dall'intelligenza artificiale e diffusi online, nell'ambito della lotta contro l'uso improprio dell'intelligenza artificiale e la diffusione di informazioni false.
I resoconti del Securities Times e dello Shanghai Securities News coincidono con la Giornata mondiale dei diritti dei consumatori, che si celebra il 15 marzo, un importante evento televisivo e sui social media in Cina che promuove la tutela dei consumatori.
La Cina è regolarmente accusata di disinformazione sull'intelligenza artificiale rivolta al pubblico occidentale
Tuttavia, al di fuori della Cina, il governo cinese starebbe utilizzando l'intelligenza artificiale per condurre una guerra di disinformazione contro il mondo occidentale attraverso i suoi agenti.
Solo pochi giorni fa, un video che mostrava un monitor su cui erano in esecuzione fino a 50 istanze di un agente di intelligenza artificiale cinese è diventato virale su X e molti hanno taggato Grok di Elon Musk, chiedendo spiegazioni.
Secondo Grok, "ogni istanza sembra gestire un account diverso, probabilmente automatizzando post, commenti o interazioni"
L'IA ha aggiunto che la configurazione "suggerisce uno sforzo coordinato per manipolare le narrazioni online, probabilmente a scopo di propaganda o per operazioni di influenza. È preoccupante perché questi bot possono diffondere disinformazione, amplificare contenuti divisivi o influenzare l'opinione pubblica su larga scala, minacciando il dibattito democratico"
Sebbene possa sembrare una teoria inverosimile, Grok ha affermato che la storia della Cina nell'uso dell'intelligenza artificiale per operazioni segrete sui social media rende questo un rischio reale. L'intelligenza artificiale non è lontana dalla realtà.
L'immagine mostra un monitor che esegue 50 istanze di un agente di intelligenza artificiale cinese, per lo più bot dei social media. Ogni istanza sembra gestire un account diverso, probabilmente automatizzando post, commenti o interazioni. Questa configurazione suggerisce uno sforzo coordinato per manipolare le narrazioni online,…
— Grok (@grok) 9 marzo 2025
Nel 2024, un rapporto di aprile di Microsoft Threat Intelligence accusava apertamente le operazioni di influenza della Cina di utilizzare l'intelligenza artificiale per seminare disinformazione e alimentare discordia a livello globale.
a proprio favore l'esito delle dent https://t.co/ZwAxPOTgLV
— Microsoft Threat Intelligence (@MsftSecIntel) 5 aprile 2024
Tra le operazioni evidenziate nel rapporto figura “un notevole aumento dei contenuti che presentano personaggi politici taiwanesi in vista delle elezionidente legislative del 13 gennaio”
Tra queste, una registrazione audio generata dall’intelligenza artificiale condivisa da un gruppo legato al Partito Comunista Cinese (PCC) noto come Storm-1376 o “Spamouflage”, che faceva sembrare che il proprietario della Foxconn, Terry Gou, che aveva condotto una breve campagnadentdent, avesse appoggiato un altro candidato, quando in realtà non era così.
Microsoft ha anche registrato la diffusione di conduttori di notiziari e meme generati dall'intelligenza artificiale per ingannare il pubblico e influenzare le elezioni di Taiwan.
"È la prima volta che Microsoft Threat Intelligence assiste all'utilizzo di contenuti di intelligenza artificiale da parte di uno Stato nazionale nel tentativo di influenzare un'elezione estera", si legge nel rapporto.
Ha inoltre avvertito che "mentre le popolazioni di India, Corea del Sud e Stati Uniti si recano alle urne, è probabile che vedremo attori informatici e di influenza cinesi, e in una certa misura attori informatici nordcoreani, lavorare per prendere di mira queste elezioni"
Sebbene vi siano pochi dubbi sul fatto che le operazioni di influenza della Cina siano diventate sempre più sofisticate grazie ai progressi dell'intelligenza artificiale, Microsoft ha osservato che ci sono pochissime prove che siano riuscite a cambiare l'opinione pubblica.
Naturalmente, questo non è un motivo per rilassarsi, perché anche se Microsoft ha ammesso che l'impatto del contenuto è basso, ha espresso preoccupazione per il futuro, sottolineando che la crescente sperimentazione della Cina nell'amplificazione di meme, video e audio potrebbe renderla più efficace nel seminare discordia con il passare del tempo.
