I ett banbrytande fall som involverade artificiell intelligens (AI) har en man i Kina gripits för att ha använt ChatGPT för att tillverka en falsk nyhetsartikel om en tågolycka som krävde nio liv.
Detta markerar den första verkställighetsåtgärden som vidtagits i Kina under en oöverträffad dent relaterad till AI, som lyfter fram landets ansträngningar att reglera och kontrollera användningen av avancerad teknologi.
dent med falska nyheter i ChatGPT
En man som dent endast som Hong har gripits av polisen i Gansu-provinsen, nordvästra Kina, för att ha skapat en falsk nyhet om en dent med ChatGPT.
Den falska artikeln publicerades på en bloggplattform som ägs av den kinesiska sökjätten Baidu av mer än 20 konton och samlade över 15 000 visningar.
För att kringgå dubbleringskontroller på plattformen anklagas Hong för att använda ChatGPT för att generera lite olika versioner av den falska nyhetsartikeln.
ChatGPT är utvecklad av USA-baserade OpenAI och är en chatbot som använder generativ AI-teknik. Denna teknik gör det möjligt för programvara att generera svar baserat på användaruppmaningar och frågor, som att skapa en berättelse från specifika instruktioner.
Även om ChatGPT är blockerat i Kina kan det fortfarande nås via ett virtuellt privat nätverk (VPN), som kan kringgå landets internetrestriktioner.
Som svar på den växande populariteten och potentiella riskerna med AI som ChatGPT, införde kinesiska myndigheter en första lag i sitt slag i år som reglerar "djupsyntesteknologier."
Lagen omfattar användningen av AI för att generera text, bilder, videor eller andra medier, och förbjuder spridning av falska nyheter genom djupsyntestjänster.
Kinesiska teknikjättars försiktiga inställning
Medan ChatGPT har fått trac och blivit viralt, har Kinas hårt censurerade och kontrollerade internetlandskap fått regeringen att skapa lagar som tar itu med ny teknik som kan innebära utmaningar för centrala myndigheter.
Följaktligen har kinesiska teknikjättar varit försiktiga i sin inställning till AI-applikationer, undvikit den utbredda tillgängligheten av chatbots som ChatGPT och istället fokuserat på specifika användningsfall.
Alibaba, till exempel, arbetar på sin Tongyi Qianwen AI-produkt, som så småningom kommer att implementeras i dess DingTalk-mjukvara för arbetsplatskommunikation och Tmall Genie, en leverantör av smarta hushållsapparater.
Detta strategiska tillvägagångssätt anses vara ett svar på tillsynsmyndigheternas och regeringens oro.
Gripandet av Hong under den nya lagen som reglerar teknik för djupsyntes fungerar som en skarp påminnelse om de potentiella konsekvenserna av att missbruka AI i Kina.
När tekniken fortsätter att utvecklas är det avgörande för nationer som Kina att fastställa riktlinjer och regler som tar itu med potentiella hot från AI, särskilt när det gäller falska nyheter och desinformation.
Den pågående utvecklingen av AI-drivna chatbots och applikationer av kinesiska teknikjättar kommer sannolikt att fortsätta under noggrann övervakning, med fokus på specifika användningsfall för att undvika alarmerande tillsynsmyndigheter och regeringen.
När AI-tekniken utvecklas och blir mer sofistikerad, kommer det att vara avgörande att hitta en balans mellan innovation och reglering för att säkerställa ett säkert och pålitligt digitalt landskap.
