OpenAI поддерживает борьбу группы по безопасности детей в голосовании по инициативе

OpenAI и Common Sense Media, которые не соглашались по вопросам технологической политики, объявили в пятницу, что объединят усилия в рамках предложения по голосованию, направленного на защиту детей, использующих ИИ-чатботы, в Калифорнии.

Две группы заявили, что откажутся от отдельных предложений, которые они планировали вынести на голосование избирателям Калифорнии в ноябре. Вместо этого они поддержат единую меру, которую они разработали совместно.

Соглашение предотвращает то, что могло бы стать дорогостоящей политической битвой между двумя организациями, при этом OpenAI планирует внести не менее 10 миллионов долларов на включение меры в бюллетень, согласно двум лицам, знакомым с условиями соглашения.

Новое предложение предоставит родителям больше контроля над тем, как их дети используют ИИ-чатботы. Однако оно исключает некоторые положения, которые Common Sense Media хотела включить в свою оригинальную версию. Эти удаленные пункты включают запрет на использование сотовых телефонов в школах и пункт, который позволил бы родителям и детям подавать в суд на крупные ИИ-компании, если чатботы причинят вред.

«Вместо того чтобы запутывать избирателей конкурирующими инициативами по голосованию по ИИ, мы решили работать вместе», — сказал Джим Стилер, основатель и руководитель Common Sense Media. Он рассказал о сделке на пресс-конференции в пятницу.

Для вынесения меры на голосование требуется примерно 875 000 подписей жителей Калифорнии. Крис Леан, отвечающий за глобальные политические вопросы в OpenAI, сказал, что две стороны создадут кампанию для сбора подписей, начиная с начала февраля. Как Леан, так и Стилер отметили, что они могут отозвать предложение, если законодатели Калифорнии быстро примут законодательство, касающееся безопасности чатботов для детей.

Это партнерство знаменует смену курса для двух организаций, которые часто оказывались по разные стороны технологических вопросов.

Common Sense Media стала крупным игроком, выступающим за правила регулирования технологических компаний по всей территории США. Организация помогла создать Закон о конфиденциальности потребителей Калифорнии в 2018 году. Всего месяц назад она поддержала закон Нью-Йорка, требующий предупреждающих этикеток о психическом здоровье на определенных сайтах социальных сетей.

Группа также активно выступала за регулирование ИИ-чатботов. В прошлом году она поддержала законопроект Калифорнии, который должен был запретить популярным ИИ-чатботам-компаньонов общаться с детьми, если эти программы не были «предсказуемо способны» вести сексуально откровенные разговоры или продвигать вредное поведение, такое как самоповреждение, насилие и расстройства пищевого поведения.

Отраслевые технологические группы выступали против этого законопроекта

Губернатор Гэвин Ньюсом, демократ, отклонил его, назвав слишком ограничительным.

Ньюсом заявил, что хочет, чтобы законодатели решили эту проблему в 2026 году, но добавил, что штат «не может подготовить нашу молодежь к будущему, где ИИ будет повсеместным, полностью запретив использование этих инструментов».

В октябре организация Common Sense Media подала предложение об инициативе на референдум, взяв за основу отклоненный законопроект. В декабре OpenAI ответила подачей собственной, более ограниченной инициативы, касающейся безопасности детей.

По словам осведомленных источников, летом OpenAI создала команду, занимающуюся вопросами референдумов в Калифорнии, ожидая сопротивления планам по изменению организационной структуры.

В декабре Палата торговли Калифорнии, членами которой являются крупные технологические компании, такие как Google, Meta и Amazon.com, проголосовала против предложения Common Sense Media.

В том же месяце Лихейн встретился со Стайером и предложил выработать компромисс.

Две организации вели переговоры более года и уже достигли соглашения о сотрудничестве в разработке руководящих принципов ИИ и учебных материалов. В ходе обсуждений возможного компромисса OpenAI опиралась на концепции безопасности детей, о которых лидер OpenAI Сэм Альтман говорил с генеральным прокурором Калифорнии Робом Бонтой в сентябре. В их число входили планы компании по созданию технологий для определения пользователей младше 18 лет.

Что потребует новая мера

Обновленная инициатива по голосованию, которая заменит более раннюю заявку OpenAI, потребует от ИИ-компаний предоставлять пользователям, идентифицированным как лица младше 18 лет, другую версию их услуги, даже если эти пользователи утверждают, что они старше. Она также потребует от компаний предоставлять родительский контроль, проходить независимые проверки безопасности для детей и прекращать рекламу, направленную на детей, наряду с другими требованиями.

Компромисс выгоден OpenAI, которая в прошлом году столкнулась с исками от нескольких семей, утверждавших, что взаимодействие с ChatGPT навредило их родственникам, включая молодых людей, покончивших с собой.

OpenAI назвала ситуации, описанные в этих исках, «невероятно трагичными», и упомянула недавние обновления ChatGPT, направленные на лучшую поддержку пользователей, испытывающих психологические трудности.

В ноябре Common Sense Media опубликовала обзор, в котором утверждалось, что ИИ-чатботы, включая ChatGPT, Gemini от Google, Claude от Anthropic и Meta AI от Meta Platforms, были «фундаментально небезопасны для поддержки психического здоровья подростков».

Стайер, основавший свою организацию в 2003 году, неизменно стремился балансировать между противостоянием технологическим и медиакомпаниям и сотрудничеством с ними в вопросах безопасности.