OpenAI поддерживает борьбу группы по защите детей за включение искусственного интеллекта в избирательный бюллетень

Организации OpenAI и Common Sense Media, разошедшиеся во мнениях по вопросам технологической политики, объявили в пятницу о намерении объединить усилия для вынесения на голосование предложения, направленного на защиту детей, использующих чат-боты с искусственным интеллектом в Калифорнии.

Обе группы заявили, что откажутся от отдельных предложений, которые планировали вынести на голосование избирателей Калифорнии в ноябре этого года. Вместо этого они поддержат единый законопроект, разработанный ими совместно.

Соглашение . предотвращает дорогостоящую политическую борьбу между двумя организациями: по словам двух источников, знакомых с условиями соглашения, OpenAI планирует выделить не менее 10 миллионов долларов на то, чтобы этот вопрос был вынесен на голосование

Новое предложение предоставит родителям больше возможностей контролировать использование детьми чат-ботов с искусственным интеллектом. Однако в нем отсутствуют некоторые положения, которые Common Sense Media хотела включить в первоначальную версию. К числу удаленных пунктов относятся запрет на использование мобильных телефонов в школах и пункт, который позволил бы родителям и детям подавать в суд на крупные компании, занимающиеся разработкой ИИ, если чат-боты причинят вред.

«Вместо того чтобы вводить избирателей в заблуждение конкурирующими инициативами по искусственному интеллекту, мы решили работать вместе», — сказал Джим Стейер, основатель и руководитель Common Sense Media. Он рассказал о сделке на пресс-конференции в пятницу.

Для вынесения законопроекта на голосование избирателей необходимо собрать около 875 000 подписейdentКалифорнии. Крис Лехейн, отвечающий за глобальную политику в OpenAI, заявил, что обе стороны создадут организацию для сбора подписей, начиная с начала февраля. И Лехейн, и Стейер отметили, что могут отозвать предложение, если законодатели Калифорнии быстро примут закон, касающийся безопасности чат-ботов для детей.

Это партнерство знаменует собой сдвиг в позиции двух организаций, которые часто оказывались по разные стороны технологических проблем.

Организация Common Sense Media стала крупным игроком, продвигающим правила, регулирующие деятельность технологических компаний по всей территории Соединенных Штатов. В 2018 году организация помогла разработать Закон о защите конфиденциальности потребителей в Калифорнии. А в прошлом месяце она поддержала закон штата Нью-Йорк, требующий размещения предупреждающих надписей о проблемах психического здоровья на некоторых сайтах социальных сетей.

Группа также активно выступает за регулирование чат-ботов с искусственным интеллектом. В прошлом году она поддержала законопроект в Калифорнии, который запретил бы популярным чат-ботам-компаньонам с ИИ общаться с детьми, если бы эти программы не были «предсказуемо способны» вести разговоры сексуального характера или пропагандировать вредное поведение, такое как членовредительство, насилие и расстройства пищевого поведения.

Представители технологической отрасли боролись против этого законопроекта

Губернатор-демократ Гэвин Ньюсом отклонил это предложение, назвав его слишком ограничительным.

Ньюсом заявил, что хочет, чтобы законодатели рассмотрели этот вопрос в 2026 году, но добавил, что штат «не может подготовить нашу молодежь к будущему, где ИИ будет повсеместным, полностью запрещая им использовать эти инструменты»

В октябре организация Common Sense Media представила свой проект инициативы для голосования, используя в качестве образца отклоненный законопроект. В ответ OpenAI в декабре подала свою собственную, более ограниченную инициативу, касающуюся безопасности детей.

По словам источников, знакомых с ситуацией, летом OpenAI сформировала команду, занимающуюся вопросами голосования на референдумах в Калифорнии, ожидая сопротивления своим планам по изменению организационной структуры.

Торговая палата Калифорнии, в состав которой входят такие богатые технологические компании, как Google, Meta и Amazon.com, в декабре проголосовала против предложения Common Sense Media.

В том же месяце Лехейн встретился со Стейером и предложил найти компромиссное решение.

Две организации вели переговоры более года и уже достигли соглашения о сотрудничестве в разработке рекомендаций по использованию ИИ и учебных материалов. В ходе обсуждения возможного компромисса OpenAI развила концепции безопасности детей, которые руководитель OpenAI Сэм Альтман обсуждал с генеральным прокурором Калифорнии Робом Бонтой в сентябре. К ним относились планы компании по созданию технологии дляdentпользователей младше 18 лет.

Что потребует новая мера

Обновленная инициатива, которая заменит предыдущую заявку OpenAI, обяжет компании, занимающиеся разработкой ИИ, предоставлять пользователям, идентифицированнымdentне достигшие 18 лет, другую версию своих услуг, даже если эти пользователи утверждают, что они старше. Она также потребует от компаний предоставления родительского контроля, прохождения независимыхdent на безопасность детей и прекращения рекламы, ориентированной на детей, а также выполнения других требований.

Этот компромисс выгоден компании OpenAI, которая в прошлом году столкнулась с судебными исками от нескольких семей, утверждавших, что взаимодействие с ChatGPT причинило вред их родственникам, в том числе молодым людям, покончившим жизнь самоубийством.

Компания OpenAI назвала ситуации, описанные в этих судебных исках, «невероятно душераздирающей ситуацией» и упомянула недавние обновления, внесенные в ChatGPT для улучшения обработки запросов пользователей, испытывающих психические расстройства.

В ноябре организация Common Sense Media опубликовала обзор, в котором утверждалось, что чат-боты на основе искусственного интеллекта, включая ChatGPT, Gemini от Google, Claude от Anthropic и Meta AI от Meta Platforms, «в корне небезопасны для оказания поддержки в области психического здоровья подростков».

Стейер, основавший свою организацию в 2003 году, постоянно стремится найти баланс между противостоянием технологическим и медиакомпаниям и сотрудничеством с ними по вопросам безопасности.