Великобритания ужесточает контроль за ИИ-чатботами для защиты детей в сети

Правительство Великобритании намерено ужесточить регулирование использования чатботов на базе искусственного интеллекта, чтобы лучше защитить детей от вредного и незаконного контента. 

Премьер-министр Кир Стармер представлено запустил процесс заполнения правовой лазейки, которая позволяла поставщикам чатботов работать вне рамок основных законов об онлайн-безопасности. Это заставит компании, разрабатывающие и управляющие ИИ-чатботами, активно бороться с незаконным контентом и обеспечивать безопасность своих платформ для молодых пользователей. 

Теперь правительство заявляет, что изменит подход к закону об онлайн-безопасности (Online Safety Act) i, и определит, как чатботы должны соответствовать требованиям закона. Регулирование разрабатывалось значительно раньше, но в основном адаптировалось под требования социальных платформ и публичных форумов, где пользователи могли публиковать свой контент. Ни операторы частных ИИ-чатботов, ни их пользователи не получили равного правового покрытия, и их обязанности остаются неясными. Стармер пообещал вскоре закрыть эту лазейку.

Компании, разрабатывающие чатботы, должны соблюдать те же юридические обязательства, что и другие онлайн-компании, предупредил он, или понести наказание. Правительство заявляет, что эти изменения должны обеспечить активный мониторинг систем провайдерами чатботов и блокировку незаконных материалов. Предваряя своё заявление, Стармер сказал, что ни одна технологическая компания не будет освобождена от действия закона.

Правительство также опасается, что обращение с ИИ-чатботами иначе, чем с социальными платформами, может оставить детей уязвимыми перед вредным или неподходящим контентом. Чиновники считают, что если ИИ-чатботы должны достичь своей целевой аудитории, особенно подростков и молодёжи, необходимы более строгие меры защиты.

Новые полномочия для борьбы с быстро меняющимися технологиями

Помимо заполнения правовых пробелов, правительство создаст новые полномочия, которые позволят действовать быстрее при возникновении рисков. Вместо ожидания принятия парламентом совершенно новых законов регуляторы смогут быстрее реагировать на изменения в технологиях. 

Это способ обеспечить, чтобы меры защиты успевали за стремительным прогрессом в области искусственного интеллекта. Инструменты ИИ быстро совершенствуются и проникают в новые сферы. В результате риски могут проявиться внезапно, а регуляторам требуется гибкость для их устранения. 

Стермер недавно указал на риски вредного контента, созданного с помощью ИИ, например, случаи, когда технологии используются для создания сексуализированных изображений людей без их согласия. 

Он назвал такое использование неприемлемым и заявил, что существующие законы должны применяться в отношении таких действий. Правительство заявило, что более строгое соблюдение законов заставит компании создавать более безопасные системы с самого начала. 

Сюда могут входить защиты, встроенные в программное обеспечение чат-ботов, для выявления и предотвращения незаконного контента до того, как пользователи его увидят. Технологические компании также будут нести ответственность за поведение своих систем ИИ. 

Это означает, что им необходимо контролировать выходные данные, улучшать функции безопасности для повышения безопасности систем и быстро реагировать при обнаружении сбоев.

Меры правительства по защите детей от вреда

Ограничение использования чат-ботов на базе ИИ является частью более широкой проблемы безопасности детей на любых цифровых платформах. Правительство рассматривает новые меры, которые могут дополнительно снизить риски. 

Одно из предложений, находящихся в разработке, требует, чтобы пользователи достигали определенного возраста для доступа к социальным сетям. Чиновники также изучают, как ограничение таких функций, как бесконечная прокрутка, может способствовать чрезмерному использованию экранов, а также затруднять молодым людям отказ от вредного или зависимого контента. 

Эти изменения могут последовать после общественных консультаций по вопросам благополучия детей в сети. Родители, педагоги и эксперты по безопасности обеспокоены влиянием цифровых платформ на психическое здоровье молодых людей и степенью их воздействия неуместного контента. 

Более широкой целью правительства является создание более безопасной онлайн-среды, где дети могут извлекать пользу из технологий, не подвергаясь серьезному вреду.