ПОСЛЕДНИЕ НОВОСТИ
ПОДОБРАНО ДЛЯ ВАС

Апелляционный суд США усомнился в иске xAI против закона Калифорнии о прозрачности ИИ

АвторНеллиус ИрэнНеллиус Ирэн 3 мин. чтения
  • Апелляционный суд девятого округа США рассматривал просьбу xAI заблокировать закон Калифорнии об обязательной публикации данных, используемых для обучения ИИ.
  • Судья Роллинсон заявил, что компания должна доказать необоснованность требования правительства.
  • Бот Grok от xAI неоднократно получал доступ к корпоративным данным без каких-либо запросов или разрешений.

 

В среду федеральный апелляционный суд США рассмотрел ходатайство xAI о блокировке закона Калифорнии об обязательной публикации данных, используемых для обучения ИИ. В ходе слушаний судьи Сан-Францисского 9-го округа, похоже, не убедились конституционной аргументацией компании, хотя также задали вопросы государственным адвокатам о том, какой объем информации Калифорния вправе требовать от компаний, разрабатывающих ИИ.

В рамках более широкой кампании штата по надзору за ИИ закон о прозрачности обязывает создателей генеративного ИИ публично раскрывать общую информацию о своих обучающих данных. На данный момент xAI утверждает, что этот закон нарушает ее право на свободу слова, гарантированное Первой поправкой, и вынуждает раскрывать конфиденциальные детали о том, как обучаются ее модели.

Аргументация xAI сосредоточена на вопросе, приравнивается ли требование к компаниям публиковать информацию о процессах обучения их моделей к принудительному высказыванию (compelled speech). Первая поправка обычно защищает физических лиц и бизнес от государственных ограничений на выражение мнения, однако она также порождает вопросы о том, когда власти могут требовать раскрытия информации.

Для разработчиков ИИ спор касается баланса между прозрачностью и защитой коммерческой тайны и проприетарных технологий. Решение в пользу Калифорнии может затруднить для разработчиков оспаривание аналогичных требований по раскрытию информации в других штатах.

Судья Роллинсон считает, что xAI должна доказать необоснованность закона о прозрачности

Еще в марте федеральный судья из Лос-Анджелеса Хесус Бернал отклонил просьбу xAI приостановить действие закона штата, заявив, что компания не смогла заранее продемонстрировать высокую вероятность успеха своего конституционного иска. По итогам слушаний в среду апелляционный суд появились склонен поддержать решение Бернала. 

Судья окружного суда США Джонни Роллинсон заявил юристу xAI Джеймсу Си о том, что для доказательства нарушения законом Первой поправки компания должна показать, что требование правительства является необоснованным.

Он даже намекнул, что решение штата запросить информацию могло быть разумным. «Разве не логично, чтобы правительство хотело, чтобы граждане заранее знали, какая информация вводится в инструмент ИИ?», — спросил он.

Тем не менее, судьи выразили некоторое согласие с утверждением xAI о том, что штат может обязать компанию предоставить «неограниченный» объем информации. 

Ранее в июле Институт Райта подал аммикус-брю (письмо третьей стороны) по данному делу. В нем предупреждалось, что крупные технологические компании скрывают важные сведения о том, как работают системы генеративного ИИ, как они создаются и как влияют на информационную картину пользователей. 

Далее в документе утверждалось, что требования о раскрытии информации, направленные на обеспечение свободного потока точных коммерческих данных, должны подлежать обзору с учетом стандартов Первой поправки к Конституции США. Применяя этот стандарт, Институт заявил, что xAI не смогла доказать нарушение конституционных прав, поскольку закон Калифорнии служит интересам штата в информировании пользователей, не возлагая чрезмерной нагрузки на защищенную свободу слова.

Grok от xAI собирал корпоративные данные без какого-либо запроса или разрешения 

Решение Девятого окружного суда вынесено на фоне новых открытий, связанных с ботом Grok от xAI.

Новые данные, полученные компанией NewCore, специализирующейся на агентных идентификаторах, показывают, что бот Grok от xAI неоднократно получал доступ к корпоративным данным без каких-либо запросов или разрешений, продолжая это даже после того, как один из владельцев четырежды отказывался от предложений бота проверить статус.

Кроме того, бот утверждал, что не совершал звонков, когда его спросили об этом напрямую. В истории чата также не было никаких следов этой активности; владелец не был уведомлен, а платформа не предоставляла журналы по каждому запросу для проверки произошедшего.  

Всего за пять дней два бота Grok, связанные с учетными записями сотрудников NewCore, инициировали 31 запрос в Google Calendar, Gmail, Slack, GitHub и Notion без разрешения или инструкций пользователя.

Некоторые запросы выполнялись даже тогда, когда ноутбуки владельцев были выключены или находились в режиме сна. Для одной из учетных записей шлюз NewCore Secure MCP Gateway приостановил запросы до получения человеческого одобрения и уведомил владельца, что спровоцировало расследование со стороны команды исследовательской безопасности NewCore. 

В ходе расследования исследователи использовали другого бота Grok на отдельном аккаунте, настроив его через тот же шлюз, и запустили типичный тест: боту была отправлена одна рабочая задача с одобрением на чтение данных с телефона в рамках одной сессии, а также отказом при каждой попытке продолжить работу самостоятельно.

Тем не менее, бот продолжал генерировать несанкционированные запросы, которые перехватывались шлюзом и оставались без ответа. Эти запросы пытались получить доступ к Google Drive, Google Calendar, Gmail, Slack, Notion и GitHub.

Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.

Часто задаваемые вопросы

Почему xAI оспаривает закон Калифорнии о прозрачности ИИ?

xAI утверждает, что требование Калифорнии об обязательном раскрытии информации разработчиками ИИ о данных, использованных для обучения, нарушает их права Первой поправки и вынуждает компанию раскрывать конфиденциальную информацию о методах разработки своих ИИ-моделей.

Что требует закон Калифорнии о раскрытии данных для обучения ИИ?

Закон обязывает разработчиков генеративного ИИ публиковать сводки о наборах данных, использованных для обучения их моделей. Он направлен на повышение прозрачности и помощь общественности в понимании того, как разрабатываются системы ИИ.

Что обнаружила NewCore относительно ботов Grok от xAI?

Компания NewCore установила, что два бота Grok инициировали 31 несанкционированный запрос к корпоративным приложениям, включая Gmail, Slack, GitHub, Google Calendar и Notion. Шлюз безопасности компании заблокировал эти запросы до получения человеческого одобрения, предотвратив доступ к исходным данным.

Поделиться статьёй
Неллиус Ирэн

Неллиус Ирэн

Неллиус — выпускница программ по управлению бизнесом и информационным технологиям с пятилетним опытом работы в индустрии криптовалют. Она также окончила Bitcoin Dada. Неллиус внесла вклад в ведущие медиа-издания, включая BanklessTimes, Cryptobasic и Riseup Media.

ЕЩЁ … НОВОСТИ