Китайский мужчина арестован за использование ChatGPT для написания новостей

В прецедентном деле, связанном с искусственным интеллектом (ИИ), мужчина в Китае был арестован по обвинению в использовании ChatGPT для создания фальшивой новостной статьи о железнодорожной катастрофе, унесшей жизни девяти человек.

Это первое правоприменительное действие, предпринятое в Китае в рамках беспрецедентного закона, касающегося ИИ, что подчеркивает усилия страны по регулированию и контролю использования передовых технологий.

Инцидент с фейковыми новостями ChatGPT

Мужчина, известный только как Хун, был задержан полицией в провинции Ганьсу на северо-западе Китая за создание фальшивой новостной истории о железнодорожной аварии с использованием ChatGPT.

Фейковая статья была размещена на платформе блогов, принадлежащей китайскому поисковому гиганту Baidu, более чем 20 аккаунтами и набрала более 15 000 просмотров.

Чтобы обойти проверки на дублирование на платформе, Хун, как утверждается, использовал ChatGPT для создания слегка отличающихся версий ложной новостной статьи.

Разработанный американской компанией OpenAI, ChatGPT — это чат-бот, использующий технологию генеративного ИИ. Эта технология позволяет программному обеспечению генерировать ответы на основе пользовательских подсказок и вопросов, таких как создание истории по конкретным инструкциям.

Хотя ChatGPT заблокирован в Китае, к нему все еще можно получить доступ через виртуальную частную сеть (VPN), которая позволяет обойти интернет-ограничения страны.

В ответ на растущую популярность и потенциальные риски ИИ, такие как ChatGPT, китайские власти в этом году ввели закон первого в своем роде, регулирующий «технологии глубокого синтеза».

Закон охватывает использование ИИ для генерации текста, изображений, видео или других медиа и запрещает распространение фейковых новостей через услуги глубокого синтеза.

Осторожный подход технологических гигантов Китая

В то время как ChatGPT набирает популярность и становится вирусным, сильно цензурируемый и контролируемый интернет-ландшафт Китая побудил правительство создать законы, регулирующие новые технологии, которые могут представлять трудности для центральных властей.

В результате китайские технологические гиганты проявляют осторожность в своем подходе к приложениям ИИ, избегая широкого распространения чат-ботов, таких как ChatGPT, и вместо этого сосредотачиваясь на конкретных случаях использования.

Alibaba, например, работает над своим продуктом ИИ Tongyi Qianwen, который в конечном итоге будет внедрен в свое программное обеспечение для рабочей коммуникации DingTalk и Tmall Genie, поставщика умных домашних устройств.

Этот стратегический подход, как полагают, является реакцией на обеспокоенность регуляторов и правительства.

Арест Хуна в соответствии с новым законом, регулирующим технологии глубокого синтеза, служит резким напоминанием о возможных последствиях неправильного использования ИИ в Китае.

По мере дальнейшего развития технологий крайне важно для таких стран, как Китай, устанавливать руководящие принципы и правила, которые addressed потенциальные угрозы, создаваемые ИИ, особенно в сфере фейковых новостей и дезинформации.

Продолжающееся развитие чат-ботов и приложений на базе ИИ китайскими технологическими гигантами, вероятно, будет продолжаться под тщательным надзором, с акцентом на конкретные случаи использования, чтобы не пугать регуляторов и правительство.

По мере эволюции и усложнения технологии ИИ достижение баланса между инновациями и регулированием будет иметь решающее значение для обеспечения безопасного и надежного цифрового ландшафта.