Искусственный интеллект генерирует фейковые новости, что приводит к аресту мужчины в Китае: сообщение

мужчина, известный только как «Хонг», арестован которого подозревают в использовании сервиса ChatGPT для распространения фейковых новостей. Арест Хонга произошел после расследования, в ходе которого выяснилось, что на популярном блоге, принадлежащем китайскому технологическому конгломерату Baidu, была обнаружена неподтвержденная статья о железнодорожной катастрофе. Специалисты по кибербезопасности обнаружили, что как минимум 20 аккаунтов одновременно опубликовали фейковую новость, что и привело к аресту Хонга.

В Китае действуют одни из самых строгих в мире законов, касающихся использования социальных сетей, и Хонг был арестован за «использование технологий искусственного интеллекта для создания ложной и недостоверной информации», нарушив постановление о «разжигании ссор и провоцировании беспорядков», которое конкретно охватывает распространение фейковых новостей и слухов в интернете. В случае предъявления обвинения Хонгу грозит до пяти лет лишения свободы по обычному закону, но он может быть приговорен к 10 годам, если суд сочтет преступление особенно тяжким.

Хотя сервис ChatGPT в настоящее время запрещен в Китае, его использование может быть затруднено с помощью виртуальных частных сетей (VPN). Однако отечественные сервисы искусственного интеллекта, такие как «Tongyi Qianwen» от Alibaba, недавно анонсированный как генеративная модель ИИ, обученная отвечать на вопросы как на английском, так и на китайском языках, получили одобрение китайского правительства. Остается неясным, будет ли Tongyi Qianwen обладать теми же творческими возможностями, что и ChatGPT.

Растет обеспокоенность по поводу неправомерного использования технологий искусственного интеллекта

Отсутствие надежных моделей генеративного искусственного интеллекта в Китае потенциально может оказать сдерживающее воздействие на технологический сектор страны, особенно в таких областях, как финтех и торговля криптовалютами, где использование ChatGPT и продуктов, созданных на основе API GPT от OpenAI, приобрело огромную популярность. Вероятно, китайское правительство продолжит отслеживать использование технологий искусственного интеллекта и пресекать действия тех, кто использует их для распространения ложной информации.

Этотdent также подчеркивает растущую обеспокоенность по поводу злоупотребления технологиями искусственного интеллекта. Хотя искусственный интеллект обладает огромным потенциалом для преобразования целого ряда отраслей, он также сопряжен со значительными рисками. Способность быстро и легко создавать убедительные фейковые новости может иметь серьезные последствия для доверия общественности к СМИ и правительству. По мере дальнейшего развития искусственного интеллекта крайне важно разработать эффективные стратегии для предотвращения его злоупотребления и обеспечения его использования на благо общества.