В понедельник губернатор Калифорнии Гэвин Ньюсом подписал новый законопроект, устанавливающий четкие меры защиты для новых и развивающихся технологий, таких как искусственный интеллект. Новое законодательство направлено на дальнейшее усиление защиты детей в интернете при использовании чат-ботов на основе ИИ.
Законодательство включает в себя меры защиты чат-ботов, такие как проверка возраста, протоколы реагирования на суицидальные наклонности и членовредительство, предупреждения относительно социальных сетей и сопутствующих чат-ботов, а также строгие наказания для тех, кто получает прибыль от незаконной деятельности, связанной с дипфейками. Губернатор считает, что эта инициатива поможет обеспечить приоритетное внимание к безопасности детей в Калифорнии.
Ньюсом отметил , что новые технологии, такие как чат-боты и социальные сети, могут вдохновлять, обучать и объединять, но необходимы реальные меры предосторожности, поскольку технологии также могут эксплуатировать, вводить в заблуждение и подвергать опасности детей. Он утверждал, что Калифорния может продолжать лидировать в области искусственного интеллекта и технологий, но делать это нужно ответственно.
Первый помощник губернатора, Дженнифер Сибель Ньюсом, считает, что все, что люди делают, начинается с их детей: их безопасности, здоровья и благополучия. Она сказала, что, хотя Калифорния всегда лидировала в инновациях, истинное лидерство также означает установление ограничений для детей, когда это наиболее важно. Сибель добавила, что законодательство устанавливает барьеры, защищающие здоровье и безопасность детей, одновременно обеспечивая ответственное развитие инноваций.
«Мы видели поистине ужасающие и трагические примеры того, как молодые люди пострадали от нерегулируемых технологий, и мы не будем бездействовать, пока компании продолжают свою деятельность без необходимых ограничений и ответственности. Безопасность наших детей не продается»
–Гэвин Ньюсом, губернатор Калифорнии.
Калифорния неизменно занимает лидирующие позиции в защите детей от опасностей, связанных с новыми технологиями. Ранее штат принял другие законы, направленные на защиту детей от зависимости от социальных сетей,tronтребований к конфиденциальности и внедрение передовых в стране мер по обеспечению прозрачности.
Законопроект направлен на создание новых мер защиты для чат-ботов на основе искусственного интеллекта путем установления требований к чат-ботам о разработке протоколов для выявленияdentреагирования на суицидальные мысли или проявления самоповреждения у пользователей. Законопроект также обязывает платформы раскрывать информацию о том, что взаимодействия генерируются искусственно.
Согласно законопроекту, платформы чат-ботов должны предоставлять напоминания о перерывах и предотвращать просмотр детьми изображений сексуального характера, созданных чат-ботом. Чат-боты также должны будут предоставлять в Департамент здравоохранения протоколы по борьбе с самоповреждением и статистику, показывающую, как часто они отправляют пользователям уведомления о предотвращении травм в кризисных центрах. В соответствии с новым законодательством, чат-ботам запрещается выдавать себя за медицинских работников.
Новый законопроект требует от поставщиков операционных систем и магазинов приложений наличия протоколов проверки возраста, чтобы предотвратить доступ детей к неприемлемому или опасному контенту в интернете. Платформы чат-ботов также должны будут отображать предупреждающие метки в социальных сетях, чтобы информировать юных пользователей о потенциальном вреде, связанном с длительным использованием социальных сетей.
Новое законодательство устанавливаетtronстрогие наказания за использование дипфейкового порнографического контента в чат-ботах, включая гражданскую компенсацию жертвам в размере до 250 000 долларов за каждый иск против третьих лиц, которые сознательно способствуют или помогают в распространении материалов сексуального характера, распространяемых по обоюдному согласию. Ньюсом также настаивал на разработке руководящих принципов по борьбе с кибербуллингом, требуя от Департамента образования Калифорнии (CDE) принять типовую политику по реагированию на сообщения о случаях кибербуллинга, происходящих вне школьных часов, к 1 июня 2026 года. Закон также обязывает местные образовательные учреждения принять эту политику или аналогичную политику, разработанную с учетом мнения местных жителей.
Губернатор Ньюсом также призвал к четкой ответственности за вред, причиненный технологиями искусственного интеллекта. Инициатива направлена на предотвращение уклонения от ответственности тех, кто разрабатывает, изменяет или использует искусственный интеллект, путем утверждения, что технология действовала автономно.
Было принято несколько других законопроектов, направленных на защиту детей и повышение безопасности технологий и онлайн-платформ. Среди них: «Социальные сети: предупреждающие надписи» (член Ассамблеи Ребекка Бауэр-Кахан), «Защита от искусственного интеллекта» (член Ассамблеи Мэгги Крелл), «Порнография с использованием дипфейков» (член Ассамблеи Джош Лоуэнталь из Лонг-Бич), «Аннулирование учетных записей» (член Ассамблеи Пилар Скьяво), «Калифорнийский центр интеграции кибербезопасности: искусственный интеллект» (член Ассамблеи Жаклин Ирвин) и другие.
