En man känd endast som "Hong" har arresterats i Gansu-distriktet i Kina efter att ha använt tjänsten ChatGPT för att skapa falska nyheter. Hongs gripande kom efter att en utredning av en ogrundad artikel om en tågkrasch upptäcktes på en populär bloggsida som värd för det kinesiska teknikkonglomeratet Baidu. Cybersäkerhetsspecialister upptäckte att minst 20 konton samtidigt hade publicerat den falska nyhetsartikeln, vilket ledde till Hongs arrestering.
Kina har några av de strängaste lagarna i världen när det gäller användningen av sociala medier, och Hong arresterades för att "använda artificiell intelligens-teknik för att koka ihop falsk och osann information", som bryter mot en förordning mot att "plocka gräl och provocera fram problem", vilket täcker specifikt spridning av falska nyheter och rykten på internet. Om Hong blir åtalad riskerar han upp till fem års fängelse enligt normal stadga, men kan dömas till så många som 10 år om domstolarna anser att brottet är särskilt grovt.
Även om ChatGPT-tjänsten för närvarande är förbjuden i Kina, kan dess användning fördunklas av virtuella privata nätverk (VPN). Men hemodlade AI-tjänster , som Alibabas 'Tongyi Qianwen', som nyligen tillkännagavs som en generativ AI-modell utbildad för att svara på frågor på både engelska och mandarin, har fått den kinesiska regeringens välsignelse. Det är fortfarande oklart om Tongyi Qianwen kommer att ha samma kreativa förmågor som ChatGPT.
Växande oro över missbruk av AI-teknik
Bristen på robusta generativa modeller för artificiell intelligens i Kina kan potentiellt ha en kylande effekt på landets tekniska scen, särskilt inom sektorer som fintech och handel med kryptovalutor, där användningen av ChatGPT och produkter byggda på OpenAI:s GPT API har exploderat i popularitet. Det är troligt att den kinesiska regeringen kommer att fortsätta att övervaka användningen av artificiell intelligensteknik och slå ner på dem som använder dem för att sprida falsk information.
dent belyser också den växande oron över missbruk av artificiell intelligensteknologi. Även om artificiell intelligens har en enorm potential att förändra en rad branscher, utgör den också betydande risker. Möjligheten att snabbt och enkelt generera övertygande falska nyheter kan få allvarliga konsekvenser för allmänhetens förtroende för media och myndigheter. När artificiell intelligens fortsätter att utvecklas är det avgörande att vi utvecklar effektiva strategier för att förhindra dess missbruk och se till att den används för allmänhetens bästa.
