Британская надзорная организация расследует деятельность чат-бота Snapchat с искусственным интеллектом из-за опасений по поводу конфиденциальности данных детей

Управление комиссара по информации Великобритании (ICO) выразило обеспокоенность по поводу чат-бота с искусственным интеллектом «My AI» от Snapchat и его потенциального влияния на конфиденциальность детей и других пользователей. Предварительные выводы ICO, опубликованные в пятницу, указывают на то, что американская компания Snapchat, возможно, не провела надлежащей оценки рисков для конфиденциальности, связанных с «My AI», до его запуска в апреле.

В настоящее время Управление по защите данных Великобритании (ICO) расследует, как «Мой ИИ» обрабатывает персональные данные примерно 21 миллиона пользователей Snapchat в Великобритании, включая детей в возрасте от 13 до 17 лет. Хотя эти выводы не сразу указывают на нарушение британского законодательства о защите данных, они свидетельствуют о серьезных опасениях по поводу подхода Snap к обеспечению конфиденциальности.

Искусственный интеллект Snapchat подвергается критике из-за рисков для конфиденциальности детей

Уполномоченный по вопросам информации Джон Эдвардс выразил свою обеспокоенность, заявив: «Предварительные результаты нашего расследования указывают на тревожную неспособность компании Snap адекватноdentи оценить риски для конфиденциальности детей и других пользователей до запуска сервиса „My AI“»

Если Snap не сможет удовлетворительно отреагировать на замечания ICO, регулятор может принять меры принудительного характера в отношении компании. Эти меры могут варьироваться от штрафов до полного запрета «My AI» в Великобритании, что затронет значительную часть пользователей Snapchat.

В ответ на уведомление ICO компания Snap заявила, что изучает полученные данные и по-прежнему привержена защите конфиденциальности пользователей. Представитель Snap отметил: «Мой ИИ прошел тщательную юридическую проверку и проверку на соответствие требованиям конфиденциальности, прежде чем стать общедоступным. Мы продолжим конструктивно сотрудничать с ICO, чтобы убедиться, что их устраивают наши процедуры оценки рисков»

«Мой ИИ» работает на базе ChatGPT от OpenAI, одного из наиболее ярких примеров генеративного ИИ. Политики во всем мире сталкиваются с проблемой регулирования подобных систем ИИ из-за опасений по поводу конфиденциальности и безопасности. Данное расследование ICO проливает свет на проблемы, связанные с внедрением ИИ на платформах, используемых молодыми людьми.

Несовершеннолетние пользователи в социальных сетях

Социальные сети, включая Snapchat, обычно требуют, чтобы пользователям было не менее 13 лет для доступа к их сервисам. Однако этим платформам сложно эффективно обеспечивать соблюдение возрастных ограничений. В августе агентство Reuters сообщило, что ICO собирает информацию, чтобы определить, принимает ли Snapchat адекватные меры для удаления несовершеннолетних пользователей со своей платформы.

Чат-бот Snapchat с искусственным интеллектом «My AI» находится под пристальным вниманием Управления комиссара по информации Великобритании (ICO) из-за опасений по поводу рисков для конфиденциальности детей и пользователей. Хотя предварительные результаты расследования вызывают опасения, Snap выразила свою приверженность защите конфиденциальности пользователей и изучает уведомление ICO. Более широкие вопросы, касающиеся регулирования генеративного ИИ и проблемы предотвращения доступа несовершеннолетних пользователей к платформам социальных сетей, остаются важными проблемами как для политиков, так и для технологических компаний.