В новаторском деле, связанном с искусственным интеллектом (ИИ), мужчина в Китае был арестован за то, что якобы использовал ChatGPT для изготовления фальшивой новостной статьи о крушении поезда, унесшем девять жизней.
Это первая принудительная мера, предпринятая в dent в беспрецедентным законом, касающимся ИИ, что подчеркивает усилия страны по регулированию и контролю использования передовых технологий.
dent с поддельными новостями ChatGPT
Мужчина, которого dent только как Хун, был задержан полицией в провинции Ганьсу на северо-западе Китая за то, что, как сообщается, с помощью ChatGPT сфабриковал фальшивую новость о железнодорожной dent .
Фейковая статья была размещена на платформе блогов, принадлежащей китайскому поисковому гиганту Baidu, более чем в 20 аккаунтах и набрала более 15 000 просмотров.
Чтобы обойти проверку на дублирование на платформе, Хонга обвиняют в использовании ChatGPT для создания немного отличающихся версий статьи с ложными новостями.
ChatGPT, разработанный американской компанией OpenAI, представляет собой чат-бот, использующий технологию генеративного искусственного интеллекта. Эта технология позволяет программному обеспечению генерировать ответы на основе подсказок и вопросов пользователя, например создавать историю из конкретных инструкций.
Хотя ChatGPT заблокирован в Китае, к нему по-прежнему можно получить доступ через виртуальную частную сеть (VPN), которая может обойти ограничения на интернет в стране.
В ответ на растущую популярность и потенциальные риски ИИ, такого как ChatGPT, китайские власти в этом году представили первый в своем роде закон, регулирующий «технологии глубокого синтеза».
Закон распространяется на использование ИИ для создания текста, изображений, видео или других медиафайлов и запрещает распространение поддельных новостей через службы глубокого синтеза.
Осторожный подход китайских технологических гигантов
В то время как ChatGPT набирает trac и становится вирусным, сильно цензурированный и контролируемый интернет-ландшафт Китая побудил правительство принять законы, касающиеся новых технологий, которые могут создать проблемы для центральных властей.
Следовательно, китайские технологические гиганты проявляют осторожность в своем подходе к приложениям ИИ, избегая широкой доступности чат-ботов, таких как ChatGPT, и вместо этого сосредотачиваясь на конкретных случаях использования.
Alibaba, например, работает над своим продуктом искусственного интеллекта Tongyi Qianwen, который в конечном итоге будет реализован в программном обеспечении DingTalk для общения на рабочем месте и в Tmall Genie, поставщике умной бытовой техники.
Этот стратегический подход считается ответом на обеспокоенность регулирующих органов и правительства.
Арест Хонга в соответствии с новым законом, регулирующим технологии глубокого синтеза, служит суровым напоминанием о потенциальных последствиях неправильного использования ИИ в Китае.
Поскольку технологии продолжают развиваться, для таких стран, как Китай, крайне важно установить руководящие принципы и правила, которые устраняют потенциальные угрозы, исходящие от ИИ, особенно в области фейковых новостей и дезинформации.
Текущая разработка чат-ботов и приложений на базе искусственного интеллекта китайскими технологическими гигантами, вероятно, будет продолжаться под тщательным контролем с упором на конкретные варианты использования, чтобы не вызывать тревогу у регулирующих органов и правительства.
По мере того, как технология ИИ развивается и становится все более сложной, достижение баланса между инновациями и регулированием будет иметь решающее значение для обеспечения безопасного и надежного цифрового ландшафта.
