Растут этические опасения по поводу роли ИИ Grok в правительстве США

Департамент эффективности правительства Элона Маска (DOGE) тихо развернул адаптированную версию своего чат-бота Grok AI в федеральных агентствах, вызвав тревогу по поводу потенциальных нарушений конфиденциальности и конфликтов интересов.

Reuters сослался на три источника в DOGE, утверждая, что команда использовала Grok для фильтрации и анализа конфиденциальных правительственных данных, генерируя отчеты и аналитику со скоростью, превышающей традиционные методы.

DOGE нарушает этику с ходом по Grok AI

По словам трех инсайдеров, инженеры DOGE установили пользовательские параметры поверх Grok, чат-бота, запущенного xAI Маска в конце 2023 года, чтобы ускорить проверку данных и автоматизировать написание отчетов.

«Они загружают в него правительственные наборы данных, задают сложные вопросы и получают мгновенные сводки».

Инсайдер.

Другой инсайдер добавил, что сотрудники DOGE рекомендовали сотрудникам Министерства внутренней безопасности использовать Grok для внутренних анализов, несмотря на отсутствие официального одобрения инструмента агентством.

Неясно, какая именно засекреченная или персонально идентифицируемая информация была загружена в Grok или насколько сильно она обучалась на федеральных записях. Если бы в нее были включены конфиденциальные материалы, такая практика могла бы нарушить федеральные законы о конфиденциальности и правила о конфликте интересов.

Пять экспертов по этике и технологиям предупреждают, что такой доступ может дать компаниям Маска непропорциональные знания о данных о контрактах, не предназначенных для публики, и даже помочь доработать сам Grok для частной выгоды.

Теоретически, любая ИИ-модель, обученная на конфиденциальных правительственных наборах данных, должна соблюдать строгие правовые гарантии. Протоколы обмена данными обычно требуют множественных согласований и надзора для предотвращения несанкционированного раскрытия информации.

Обходя эти проверки, DOGE рискует раскрыть личные данные миллионов американцев и передать xAI сокровищницу реальной информации, недоступной конкурентам.

DOGE настаивает, что ее миссия — искоренение расточительства, мошенничества и злоупотреблений. Представитель DHS сказал Reuters, что DOGE никогда не давила на персонал с целью внедрения какого-либо конкретного инструмента.

«Мы сосредоточены на эффективности», — сказал представитель. Но два источника утверждают, что за последние недели представители DOGE подталкивали подразделения DHS к пилотному использованию Grok для задач, ranging от анализа нагрузки по иммиграционным делам до прогнозирования бюджета, даже после того, как DHS внезапно заблокировал все коммерческие ИИ-платформы из-за опасений утечки данных.

Согласно текущей политике DHS, сотрудники могут использовать коммерческие чат-боты только для несекретной, неконфиденциальной работы, в то время как специальный ИИ DHS обрабатывает чувствительные записи. Но когда ChatGPT и другие были отключены в мае, продвижения DOGE происходили в правовой серой зоне: внутренний бот DHS оставался активным, но Grok никогда не проходил формального внедрения.

Использует ли Маск DOGE для централизации контроля?

Помимо DHS, влияние DOGE распространяется на сети Министерства обороны, где, как сообщается, около дюжины аналитиков были проинформированы о том, что сторонний ИИ-инструмент отслеживает их активность. Хотя представители Министерства обороны отрицают, что DOGE направляла какие-либо развертывания ИИ, внутренние электронные письма и обмен текстовыми сообщениями, полученные Reuters, свидетельствуют об обратном.

Критики рассматривают эти шаги как часть более широкой стратегии Маска по использованию ИИ для централизации контроля над бюрократией, а затем монетизации возникающего потока данных.

«Существует явное сходство с инсайдерской торговлей в корыстных целях».

Ричард Пейнтер, профессор по вопросам этики государственной службы.

Если Маск лично отдал приказ о развертывании Grok, он может нарушить уголовные законы, запрещающие должностным лицам влиять на решения, которые приносят выгоду их частным интересам.

В центре дебатов находится двойная роль Grok: публичный чат-бот на платформе X и экспериментальный аналитический движок за правительственными файрволами. На сайте xAI даже намечается, что взаимодействия пользователей могут отслеживаться «в конкретных бизнес-целях», что предполагает, что каждый федеральный запрос может возвращаться в цикл обучения Grok.

Два сотрудника DOGE, Кайл Шутт и Эдвард Користайн, последний из которых известен в сети как «Big Balls», возглавили большую часть инициативы по ИИ. Хотя они отказались от комментариев, их усилия вписываются в общую картину; за последний год DOGE уволила тысячи должностных лиц, захватила контроль над защищенными базами данных и продвигала ИИ как главный инструмент для бюрократического реформирования.

Защитники конфиденциальности предупреждают, что интеграция непроверенного ИИ в среды национальной безопасности с высокими ставками — это рецепт утечки данных, кражи личных данных и эксплуатации со стороны иностранных противников.

«Это одна из самых серьезных угроз конфиденциальности, какие только можно представить», — говорит Альберт Фокс Кан из проекта Surveillance Technology Oversight Project.

Существуют также опасения, что из-за недостаточной прозрачности и малого количества защитных механизмов эксперимент DOGE с ИИ может изменить управление федеральными данными, осознает это общество или нет.