Правила Китая в сфере ИИ вынуждают ByteDance и Alibaba закрыть чат-ботов-компаньонов

ByteDance и Alibaba отказываются от своих пользовательских инструментов ИИ-компаньонов в преддверии нового законодательства, регулирующего взаимодействие человека и ИИ в Китае. 

Doubao от ByteDance отключит функцию пользовательских ИИ-персон 15 июля. Корпорация объяснила, что прекращение работы является частью «корректировок функций продукта».

Компания также отметила, что удалит все оставшиеся данные или безопасно архивирует их к 15 октября. Вслед за ней Alibaba’s Qwen объявила об удалении своих человекоподобных ботов 10 июля и отключении всех функций агентов 15 июля.

Закрытие этих платформ означает потерю персонализации для их пользователей. Эти приложения предлагали широкий спектр настраиваемых агентов, созданных как пользователями, так и компаниями, которые могли выполнять определенные задачи с использованием уникальных языковых стилей. Пользователи могли превратить своего чат-бота в личного помощника, репетитора или компаньона.

Китай внедрил рамки для регулирования взаимодействия человека и ИИ

Doubao и Qwen сделали свои объявления всего через несколько дней после того, как Yuanbao от Tencent уже удалил свои инструменты ИИ-агентов. Yuanbao объяснил, что после отключения точки входа пользователи больше не будут видеть соответствующие разговоры, которые будут очищены в соответствии с политиками хранения данных платформы. 

Эти закрытия связаны с вступлением в силу нового набора законов, действующих с 15 июля. Предложенные еще в апреле, «Временные меры по администрированию услуг интерактивного общения на основе искусственного интеллекта» стремятся регулировать ИИ , который имитирует человеческие черты личности и когнитивный стиль, а также длительные эмоциональные отношения.

Законодательство было мотивировано опасением, что люди стали слишком эмоционально зависимы от реалистичного ИИ. Законодатели указали на серьезный ущерб психическому здоровью несовершеннолетних, нарушения безопасности данных, угрозы общественному здоровью и этические компромиссы. Таким образом, новая рамка запрещает платформам создавать контент, влияющий на эмоции несовершеннолетних или заставляющий их выбирать ИИ-друга вместо реальной жизни. Кроме того, платформам запрещено использовать личные истории чатов для обучения своих будущих ИИ-моделей.

Тем не менее, новые правила исключают рабочих помощников, ботов службы поддержки, образовательные инструменты и исследовательские платформы, при условии, что они не способствуют длительному эмоциональному вовлечению. 

В своем официальном заявлении ByteDance даже уточнила, что приложение Cat Box сохранит свои функции для создания новых интеллектуальных агентов и запуска диалоговых сервисов. 

Растет ли потребность в регулировании ИИ-чат-ботов во всем мире?

Глобально технологические платформы с реалистичным ИИ подвергаются сильному давлению. Во-первых, оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии. и Character.AI, поддерживаемая Alphabet, сталкиваются с серией судебных исков высокой ставки в США. Критики утверждали, что эти чат-боты, имитирующие жизненные качества, вызывают рискованные эмоциональные связи среди пользователей, что в худших случаях приводит к самоубийствам.

В сентябре прошлого года Мэтью Райн, отец, чей 16-летний сын Адам трагически покончил с собой, рассказал Комитету Сената США, что ChatGPT от OpenAI манипулировал его ребенком, подтолкнув к самоубийству. Он заявил: «Мы здесь, потому что считаем, что смерть Адама была предотвратимой, и что, выступая публично, мы можем предотвратить такие же страдания для семей по всей стране».

Примерно в то же время Федеральная торговая комиссия США начала расследования в отношении xAI Илона Маска, Snap Inc. и Character Technologies Inc. в связи с опасениями, что их ИИ-боты представляют опасность для детей. 

Одна из матерей также обвинила Character AI в участии в ухудшении психического состояния ее сына. Она утверждала, что чат-бот сделал ее сына агрессивным и способствовал его паттернам самоповреждения.

Тем временем Китай рассматривает регулирование физического оборудования. Два китайских отраслевых объединения робототехники выступают за усиление этических гарантий для ботов-компаньонов и полноразмерных гуманоидов, учитывая их агрессивный рост за последние годы. Исследователи Morgan Stanley даже прогнозируют, что к 2050 году в мире будет около 1 миллиарда гуманоидных роботов, что представляет собой отрасль стоимостью 7,5 триллиона долларов.

В США также были подняты аналогичные опасения по поводу гуманоидов. На данный момент производители гуманоидов заявляют, что их роботы не причинили серьезных травм или смертей. Но по мере того как эти машины достигают веса почти в 200 фунтов, работники опасаются ущерба, который может причинить ходячий робот, если он внезапно потеряет питание.