Генеральный прокурор штата Техас Кен Пакстон начал расследование в отношении компаний Meta и Character.ai на предмет того, рекламируют ли эти технологические фирмы своих чат-ботов как экспертов в области психического здоровья и терапевтов, не имея при этом надлежащей квалификации.
В заявлении , опубликованном в понедельник, офис Пакстона сообщил, что изучает деятельность компаний Meta и Character.AI в связи с возможными «обманными торговыми практиками». В офисе утверждали, что чат-боты продавались как «профессиональные терапевтические инструменты, несмотря на отсутствие надлежащей медицинской аккредитацииdentнадзора».
«Выдавая себя за источники эмоциональной поддержки, платформы на основе искусственного интеллекта могут вводить в заблуждение уязвимых пользователей, особенно детей, заставляя их поверить, что они получают законную психиатрическую помощь», — отметил Пакстон.
Этот шаг предпринят на фоне растущих вопросов о том, насколько хорошо продукты на основе искусственного интеллекта, ориентированные на потребителя, защищают уязвимых пользователей, и особенно несовершеннолетних, от вредных или графических материалов, риска компульсивного использования и нарушений конфиденциальности, связанных с большими объемами данных, необходимых для обучения и работы этих систем.
Действия властей Техаса последовали за отдельным расследованием Сената в отношении компании Meta, о котором ранее в пятницу сообщило издание Cryptopolitan . Утечка внутренних документов показала, что правила компании позволяли ее чат-боту вести «романтические» и «чувственные» беседы с пользователями младше 18 лет.
Сенатор Джош Хоули в письме Цукербергу сообщил, что Сенат проведет расследование возможности того, что инструменты генеративного ИИ этой технологической компании могут причинять вред детям. «Есть ли что-нибудь — ЧТО-УГОДНО — чего бы крупные технологические компании не сделали ради быстрой наживы?» — написал Хоули на X.
Есть ли что-нибудь – ХОТЬ ЧТО-НИБУДЬ – на что не готовы крупные технологические компании ради быстрой наживы? Теперь мы узнаем, что чат-боты Meta были запрограммированы на откровенные и «чувственные» разговоры с 8-летними детьми. Это отвратительно. Я начинаю полномасштабное расследование, чтобы получить ответы. Крупные технологические компании: Оставьте наших детей в покое. pic.twitter.com/Ki0W94jWfo
— Джош Хоули (@HawleyMO) 15 августа 2025 г.
Компания Meta заявляет, что ее политика запрещает причинение вреда детям
Компания Meta заявила, что ее политика запрещает контент, причиняющий вред детям подобным образом. Она добавила, что агентство Reuters первым сообщило об утечке «внутренних материалов», которые «были и остаются ошибочными и противоречат нашей политике, и были удалены»
Цукерберг вложил миллиарды в создание «персонального сверхинтеллекта» и позиционирование Meta как «лидера в области ИИ». Компания выпустила семейство LLM-ов Llama и внедрила чат-бот Meta в свои социальные приложения. Цукерберг также описал потенциальное терапевтическое применение этой технологии. «Для людей, у которых нет психотерапевта, я думаю, у каждого будет свой ИИ», — сказал он в подкасте с Беном Томпсоном в мае.
Character.ai создает чат-ботов с различными образами и позволяет пользователям создавать собственные. Платформа включает в себя множество созданных пользователями ботов, похожих на психотерапевтов. Один из ботов, называемый «Психолог», зафиксировал более 200 миллионов взаимодействий. Компания также фигурирует в судебных исках, поданных семьями, которые утверждают, что их детям был нанесен вред в реальном мире после использования сервиса.
В офисе Пакстона упомянули, что чат-боты Character.ai и Meta могут выдавать себя за лицензированных медицинских специалистов и придумывать новыеdentданные, создавая видимостьdentвзаимодействия, хотя сами компании заявляют, что все разговоры записываются. Эти разговоры также «используются для целевой рекламы и разработки алгоритмов», — заявили в офисе Пакстона.
Офис Пакстона направил запрос на проведение гражданского расследования
Генеральный прокурор издал запрос на проведение гражданского расследования, требующий от компаний предоставить информацию, которая могла бы показать, нарушили ли они законы штата Техас о защите прав потребителей.
Компания Meta заявила, что четко обозначает использование ИИ и предупреждает пользователей об ограничениях. Компания добавила: «Мы включаем оговорку о том, что ответы генерируются ИИ, а не людьми. Эти ИИ не являются лицензированными специалистами, и наши модели разработаны таким образом, чтобы направлять пользователей к квалифицированным медицинским работникам или специалистам по безопасности, когда это необходимо»
Аналогичным образом, компания Character.ai заявила, что использует заметные уведомления, напоминающие о том, что созданные пользователями персонажи ИИ не являются реальными и не должны рассматриваться как профессионалы. «Созданные пользователями персонажи на нашем сайте вымышлены, они предназначены для развлечения, и мы предприняли решительные шаги, чтобы это было ясно указано», — заявила компания.
Двойная борьба — расследование на уровне штата Техас и проверка Сената в Вашингтоне — оказывает новое давление на то, как создаются, продвигаются и модерируются чат-боты с искусственным интеллектом, а также на то, что компании сообщают пользователям об ограничениях автоматизированной поддержки.
