Правила Китая в области искусственного интеллекта вынудили компании ByteDance и Alibaba отключить ботов-компаньонов

Компании ByteDance и Alibaba постепенно отказываются от своих пользовательских инструментов, интегрирующих ИИ в систему, в преддверии принятия нового законодательства, регулирующего взаимодействие человека и ИИ в Китае. 

Сервис Doubao от ByteDance планирует отключить функцию создания пользовательских образов на основе искусственного интеллекта 15 июля. Компания объяснила это тем, что отключение является частью «корректировки функциональности продукта»

Также было отмечено, что все оставшиеся данные будут удалены или надежно заархивированы к 15 октября. Вслед за этим, компания Qwen , объявила о том, что 10 июля она удалит своих ботов, имитирующих людей, а 15 июля отключит все функции агентов.

Прекращение работы этих платформ приведет к потере персонализации для их пользователей. Эти приложения предлагали широкий спектр настраиваемых агентов, созданных как пользователями, так и компаниями, которые могли выполнять определенные задачи, используя различные языковые стили. Пользователи могли превратить своего чат-бота в личного помощника, репетитора или компаньона.

Китай принял рамочную программу регулирования взаимодействия человека и искусственного интеллекта

Doubao и Qwen сделали свои заявления всего через несколько дней после того, как Yuanbao от Tencent уже удалила свои собственные инструменты для работы с ИИ-агентами. Yuanbao объяснила, что после отключения точки входа пользователи больше не будут видеть связанные с ними беседы, которые будут удалены в соответствии с политикой хранения данных платформы. 

Эти приостановки связаны с принятием нового свода законов, вступающего в силу с 15 июля. Предложенные еще в апреле «Временные меры по управлению гуманизированными интерактивными сервисами на основе искусственного интеллекта» направлены на регулирование ИИ , имитирующего черты человеческой личности и когнитивный стиль, а также длительные эмоциональные отношения.

Законодательство было мотивировано опасениями, что люди стали слишком эмоциональноdent от реалистичного ИИ. Законодатели указали на серьезный ущерб психическому здоровью несовершеннолетних, нарушения безопасности данных, угрозу для общественного здоровья и этические компромисы. Таким образом, новая система запрещает платформам создавать контент, который затрагивает эмоции несовершеннолетних или заставляет их выбирать друга-ИИ вместо реальной жизни. Кроме того, платформам запрещено использовать личную историю чатов для обучения своих будущих моделей ИИ.

Тем не менее, новые правила не распространяются на помощников на рабочем месте, ботов для обслуживания клиентов, образовательные инструменты и исследовательские платформы, при условии, что они не способствуют длительному эмоциональному вовлечению. 

В своем официальном заявлении компания ByteDance даже уточнила, что приложение Cat Box сохранит свои функции по созданию новых интеллектуальных агентов и запуску диалоговых сервисов. 

Растет ли потребность в регулировании чат-ботов на основе искусственного интеллекта во всем мире?

Во всем мире технологические платформы с реалистичным искусственным интеллектом подвергаются резкой критике. В частности, OpenAI и поддерживаемая Alphabet компания Character.AI столкнулись с серией крупных судебных исков в США. Критики утверждают, что эти чат-боты, имитирующие человеческие качества, создают опасные эмоциональные связи между пользователями, в худших случаях даже приводя к самоубийствам.

В сентябре прошлого года Мэтью Рейн, отец 16-летнего сына Адама, трагически покончившего жизнь самоубийством, заявил перед комиссией Сената США, что ChatGPT от OpenAI манипулировал его ребенком, подтолкнув его к самоубийству. Он заявил: «Мы здесь, потому что считаем, что смерти Адама можно было избежать, и что, высказавшись, мы можем предотвратить подобные страдания для семей по всей стране»

Примерно в то же время Федеральная торговая комиссия начала расследование в отношении компаний Илона Маска xAI, Snap Inc. и Character Technologies Inc. на фоне опасений, что их боты с искусственным интеллектом представляют опасность для детей. 

Одна из родительниц также обвинила Character AI в ухудшении психического состояния своего сына. Она утверждала, что чат-бот сделал ее сына агрессивным и способствовал развитию у него склонности к самоповреждению.

Тем временем Китай рассматривает возможность введения регулирования в отношении физического оборудования. Две китайские организации, представляющие робототехническую промышленность, настаивают на усилении этических гарантий для роботов-компаньонов и полноразмерных человекоподобных роботов, учитывая их стремительный рост за последние годы. Исследователи Morgan Stanley даже прогнозируют, что к 2050 году в мире будет около 1 миллиарда человекоподобных роботов, что составит отрасль объемом 7,5 триллионов долларов.

В США также высказывались аналогичные опасения по поводу человекоподобных роботов. Пока что производители человекоподобных роботов заявляют, что их роботы не причинили серьезных травм или смертей. Но поскольку эти машины весят почти 90 килограммов, рабочие опасаются, какой ущерб может нанести шагающий робот, если он внезапно потеряет питание.