Британский регулятор расследует чат-бот с ИИ Snapchat из-за опасений по поводу конфиденциальности детей

Управление комиссара по информации Великобритании (ICO) выразило обеспокоенность по поводу чат-бота с искусственным интеллектом (ИИ) Snapchat «My AI» и его потенциального воздействия на конфиденциальность детей и других пользователей. Предварительные выводы ICO, опубликованные в пятницу, предполагают, что компания Snap, стоящая за Snapchat, могла не adequately оценить риски конфиденциальности, связанные с «My AI», перед его запуском в апреле.

ICO в настоящее время расследует, как «My AI» обрабатывает личные данные примерно 21 миллиона пользователей Snapchat в Великобритании, включая детей в возрасте от 13 до 17 лет. Хотя эти выводы не предполагают немедленного нарушения британских законов о защите данных, они сигнализируют о серьезных опасениях по поводу подхода Snap к мерам защиты конфиденциальности.

ИИ Snapchat подвергается проверке из-за рисков конфиденциальности для детей

Комиссар по информации Джон Эдвардс выразил свою обеспокоенность, заявив: «Предварительные выводы нашего расследования указывают на тревожный провал со стороны Snap в адекватном выявлении и оценке рисков конфиденциальности для детей и других пользователей перед запуском «My AI»».

Если Snap не сможет удовлетворительно решить проблемы, поднятые ICO, регулятор может принять меры принуждения против компании. Эти действия могут варьироваться от штрафов до полного запрета «My AI» в Великобритании, решение, которое повлияет на значительную часть пользовательской базы Snapchat.

Snap ответила на уведомление ICO, заявив, что она пересматривает выводы и остается приверженной конфиденциальности пользователей. Представитель Snap упомянул: «My AI прошел тщательный юридический и конфиденциальный процесс проверки перед тем, как стать общедоступным. Мы продолжим конструктивно работать с ICO, чтобы убедиться, что они довольны нашими процедурами оценки рисков».

«My AI» работает на базе ChatGPT от OpenAI, одного из самых заметных примеров генеративного ИИ. Политики по всему миру борются с тем, как регулировать такие системы ИИ из-за опасений по поводу конфиденциальности и безопасности. Это расследование ICO проливает свет на проблемы, связанные с развертыванием ИИ на платформах, используемых более молодой демографической группой.

Несовершеннолетние пользователи в социальных сетях

Платформы социальных сетей, включая Snapchat, обычно требуют, чтобы пользователи были старше 13 лет для доступа к их услугам. Однако эти платформы боролись с эффективным соблюдением возрастных ограничений. В августе Reuters сообщил, что ICO собирает информацию, чтобы определить, принимает ли Snapchat адекватные меры для удаления несовершеннолетних пользователей со своей платформы.

Чат-бот Snapchat «My AI» находится под пристальным вниманием Управления комиссара по информации Великобритании из-за опасений по поводу рисков конфиденциальности для детей и пользователей. Хотя предварительные выводы расследования вызывают опасения, Snap выразила свою приверженность конфиденциальности пользователей и пересматривает уведомление ICO. Более широкие вопросы, касающиеся регулирования генеративного ИИ и проблемы предотвращения доступа несовершеннолетних пользователей к платформам социальных сетей, остаются значительными проблемами как для политиков, так и для технологических компаний.