Китай выступает против чат-ботов на основе искусственного интеллекта, предназначенных для предотвращения самоубийств и азартных игр

Китайские регулирующие органы планируют усилить борьбу с чат-ботами на основе искусственного интеллекта, которые подталкивают людей к суицидальным мыслям, самоповреждению и азартным играм. Эти события происходят на фоне недавних IPO двух ведущих китайских компаний, занимающихся разработкой чат-ботов, в Гонконге.

Согласно сообщениям, новые меры, объявленные в субботу, будут применяться к продуктам или услугам на основе искусственного интеллекта, предлагаемым населению в Китае, которые имитируют человеческую личность и эмоционально вовлекают пользователей посредством текста, изображений, аудио или видео.

Ожидается, что предложения Китая защитят несовершеннолетних от членовредительства

Согласно проекту правил, опубликованному в субботу Управлением по киберпространству, они направлены на то, что оно назвало «интерактивными сервисами искусственного интеллекта, подобными человеческим», как сообщает CNBC в переводе китайского документа.

В проекте правил содержится несколько предложений. Например, чат-боты с искусственным интеллектом не должны генерировать контент, поощряющий членовредительство или самоубийство, вербальное насилие или эмоциональное манипулирование, способное нанести вред психическому здоровью пользователей.

Кроме того, чат-боты с искусственным интеллектом не должны создавать непристойный, жестокий или связанный с азартными играми контент. Согласно проекту правил, если пользователь предлагает самоубийство, компания, занимающаяся разработкой ИИ, должна предоставить человека, который возьмет на себя разговор и немедленно свяжется с опекуном пользователя или назначенным лицом.

В проекте правил также предлагается, чтобы несовершеннолетние получали согласие опекуна на использование сервисов эмоционального общения, с ограничением времени использования. Согласно новым правилам, платформы на основе ИИ должны будут определять, является ли пользователь совершеннолетним или несовершеннолетним, даже если он не раскрывает свой возраст. В случае сомнений платформы должны применять настройки для несовершеннолетних, оставляя при этом возможность обжалования.

По словам профессора юридической школы Нью-Йоркского университета Уинстона Ма, после окончательного утверждения эти правила станут первой в мире попыткой регулирования искусственного интеллекта с человеческими или антропоморфными характеристиками. Эти события происходят на фоне стремительного развития бизнеса в области создания ИИ-компаньонов и цифровых знаменитостей.

Сравнивая это с китайским регулированием генеративного ИИ 2023 года, Ма высказал мнение, что эта версия «подчеркивает скачок от безопасности контента к эмоциональному восприятию»

Эти предложения появились на фоне того, что два китайских стартапа, занимающихся разработкой чат-ботов на основе искусственного интеллекта, Z.ai и Minimax , в этом месяце подали заявки на первичное публичное размещение акций (IPO) в Гонконге. Компания Minimax наиболее известна на международном уровне своим приложением Talkie AI, позволяющим пользователям общаться с виртуальными персонажами.

По данным CNBC, приложение и его китайская версия, известная как Xingye, обеспечили более трети выручки компании за первые три квартала года, имея в среднем более 20 миллионов активных пользователей в месяц за этот период.

Что касается компании Z.ai, также известной как Zhipu, она зарегистрировалась под названием Knowledge Atlas Technology, но не раскрыла данные о количестве ежемесячно активных пользователей. Однако компания, занимающаяся искусственным интеллектом, сообщила, что ее технология используется примерно на 80 миллионах устройств, включая смартфоны, персональные компьютеры и интеллектуальные автомобили.

Как ранее сообщал Cryptopolitan, два стартапа в сфере искусственного интеллекта, оба поддерживаемые Alibaba и Tencent, планируют выйти на Гонконгскую фондовую биржу в начале января следующего года.