Правительство Великобритании принимает меры по ужесточению правил использования чат-ботов на основе искусственного интеллекта, чтобы лучше защитить детей от вредного и незаконного контента.
Премьер-министр Кир Стармер представил процедуру, призванную заполнить правовой пробел, позволявший поставщикам чат-ботов работать в обход основных законов о безопасности в интернете. Эта процедура обяжет компании, разрабатывающие и использующие чат-боты на основе искусственного интеллекта, активно бороться с незаконным контентом и обеспечивать безопасность своих платформ для юных пользователей.
Теперь правительство заявляет, что изменит порядок Закона о безопасности в интернете и уточнит, как чат-боты должны соответствовать этому закону. Регулирование было разработано гораздо раньше, но в основном адаптировано к требованиям социальных сетей и публичных форумов, где люди могли размещать свой контент. Ни те, кто управляет частными чат-ботами на основе ИИ, ни те, кто их использует, не получили равного освещения, и их обязанности остаются неясными. Стармер пообещал вскоре закрыть эту лазейку.
Он предупредил, что компании, разрабатывающие чат-боты, должны соблюдать те же юридические обязательства, что и другие онлайн-компании, иначе им грозят санкции. Правительство заявляет, что это изменение должно гарантировать, что поставщики чат-ботов будут активно отслеживать свои системы и блокировать незаконный контент. Перед своим заявлением Стармер сказал, что ни одна технологическая компания не будет освобождена от действия закона.
Правительство также опасается, что иное отношение к чат-ботам с искусственным интеллектом по сравнению с платформами социальных сетей может сделать детей уязвимыми для вредного или неприемлемого контента. Чиновники считают, что для того, чтобы чат-боты с ИИ достигли своей целевой аудитории, особенно подростков и молодежи, необходимы более жесткие меры защиты.
Новые полномочия для решения проблем, связанных с быстро меняющимися технологиями
Помимо устранения пробелов в законодательстве , правительство создаст новые полномочия, которые позволят быстрее реагировать на возникающие риски. Вместо того чтобы ждать, пока парламент примет совершенно новые законы, регулирующие органы будут быстрее реагировать на технологические изменения.
Это способ обеспечить соответствие мер защиты стремительному развитию искусственного интеллекта. Инструменты ИИ быстро совершенствуются и осваивают новые области. В результате риски могут возникать внезапно, и регулирующим органам требуется гибкость для их устранения.
Стармер недавно указал на риски, связанные с вредоносным контентом, созданным с помощью ИИ, например, на случаи, когда технология используется для создания изображений сексуального характера без согласия людей.
Он назвал такое использование неприемлемым и заявил, что существующие законы должны применяться в отношении подобных случаев. Правительство заявило, что более эффективное правоприменение заставит компании с самого начала проектировать более безопасные системы.
К ним могут относиться встроенные в программное обеспечение чат-ботов средства защиты, позволяющиеdentи предотвращать появление незаконного контента до того, как его увидят пользователи. Технологические компании также будут нести ответственность за поведение своих систем искусственного интеллекта.
Это означает, что им необходимо отслеживать выходные параметры, улучшать функции безопасности для повышения надежности систем и оперативно реагировать при обнаружении неисправностей.
Правительство принимает меры для защиты детей от вреда
Ужесточение контроля за чат-ботами на основе искусственного интеллекта является частью более масштабной проблемы обеспечения безопасности детей практически на любой цифровой платформе. Правительство рассматривает новые меры, которые могли бы еще больше снизить риски.
Одно из разрабатываемых предложений — ввести требование о достижении пользователями определенного возраста для доступа к социальным сетям. Также изучается вопрос о том, как ограничение таких функций, как бесконечная прокрутка, может способствовать чрезмерному времени, проводимому за экраном, а также затруднять молодым людям отказ от вредного или вызывающего привыкание контента .
Эти изменения могут произойти после общественных консультаций по вопросам благополучия детей в интернете. Родители, педагоги и эксперты по безопасности обеспокоены влиянием цифровых платформ на психическое здоровье молодежи и количеством случаев воздействия неприемлемого контента.
Более широкая цель правительства — создание более безопасной онлайн-среды, где дети смогут пользоваться технологиями, не подвергаясь серьезному вреду.
