В Китае арестован мужчина за использование ChatGPT для написания новостей

В новаторском деле, связанном с искусственным интеллектом (ИИ), в Китае был арестован мужчина, которого обвиняют в использовании платформы ChatGPT для создания фейковой новости о железнодорожной катастрофе, унесшей жизни девяти человек.

Это первая в Китае беспрецедентногоdentкасающегося искусственного интеллекта, что подчеркивает усилия страны по регулированию и контролю использования передовых технологий.

dent с фейковыми новостями на ChatGPT

В провинции Ганьсу на северо-западе Китая полиция задержала мужчину,dentкак Хонг, по обвинению в создании фальшивой новости о железнодорожной аварии с использованиемdent ChatGPT.

Фейковая статья была опубликована на блог-платформе, принадлежащей китайскому поисковому гиганту Baidu, более чем с 20 аккаунтов и набрала более 15 000 просмотров.

Хонга обвиняют в использовании ChatGPT для генерации немного отличающихся версий ложной новостной статьи, чтобы обойти проверки на дублирование на платформе.

Разработанный американской компанией OpenAI, ChatGPT — это чат-бот, использующий технологию генеративного искусственного интеллекта. Эта технология позволяет программному обеспечению генерировать ответы на основе запросов и вопросов пользователя, например, создавать историю по конкретным инструкциям.

Несмотря на то, что ChatGPT заблокирован в Китае, к нему все еще можно получить доступ через виртуальную частную сеть (VPN), что позволяет обойти интернет-ограничения страны.

В ответ на растущую популярность и потенциальные риски искусственного интеллекта, такого как ChatGPT, китайские власти в этом году приняли первый в своем роде закон, регулирующий «технологии глубокого синтеза»

Закон охватывает использование ИИ для генерации текста, изображений, видео или других медиафайлов и запрещает распространение фейковых новостей с помощью сервисов глубокого синтеза.

Осторожный подход китайских технологических гигантов

В то время как ChatGPT набирает tracи становится вирусным, жесткая цензура и контроль в интернете в Китае побудили правительство принять законы, регулирующие новые технологии, которые могут представлять угрозу для центральных властей.

Вследствие этого китайские технологические гиганты проявляют осторожность в своем подходе к применению ИИ, избегая широкого распространения чат-ботов, таких как ChatGPT, и вместо этого сосредотачиваясь на конкретных сценариях использования.

Например, компания Alibaba работает над своим продуктом Tongyi Qianwen на основе искусственного интеллекта, который в конечном итоге будет внедрен в ее программное обеспечение для корпоративной коммуникации DingTalk и в Tmall Genie, поставщика умной бытовой техники.

Считается, что такой стратегический подход является ответом на опасения регулирующих органов и правительства.

Арест Хонга в соответствии с новым законом, регулирующим технологии глубокого синтеза, служит ярким напоминанием о потенциальных последствиях злоупотребления искусственным интеллектом в Китае.

По мере дальнейшего развития технологий для таких стран, как Китай, крайне важно разработать руководящие принципы и правила, направленные на противодействие потенциальным угрозам, исходящим от ИИ, особенно в сфере фейковых новостей и дезинформации.

Разработка чат-ботов и приложений на основе искусственного интеллекта китайскими технологическими гигантами, вероятно, будет продолжаться под тщательным контролем, с упором на конкретные сценарии использования, чтобы избежать беспокойства со стороны регулирующих органов и правительства.

По мере развития и совершенствования технологий искусственного интеллекта, достижение баланса между инновациями и регулированием будет иметь решающее значение для обеспечения безопасной и надежной цифровой среды.