Министерство эффективности государственного управления Илона Маска (DOGE) незаметно внедрило адаптированную версию своего чат-бота Grok AI во всех федеральных ведомствах, что вызвало опасения по поводу потенциальных нарушений конфиденциальности и конфликтов интересов.
Агентство Reuters со ссылкой на три источника внутри DOGE сообщило, что команда использует Grok для анализа конфиденциальных правительственных данных, генерируя отчеты и аналитические выводы со скоростью, превышающей возможности традиционных методов.
Компания DOGE нарушила этические нормы, предприняв шаг в отношении Grok AI
По словам трех инсайдеров, инженеры DOGE установили пользовательские параметры на Grok, чат-бота, запущенного компанией xAI Маска в конце 2023 года, чтобы ускорить проверку данных и автоматизировать составление отчетов.
«Они загружают в него правительственные наборы данных, задают сложные вопросы и мгновенно получают сводные результаты»
Инсайдер.
Другой источник, близкий к ситуации, добавил, что сотрудники DOGE поощряли работников Министерства внутренней безопасности использовать Grok для внутреннего анализа, несмотря на отсутствие у этого инструмента официального одобрения ведомства.
Неясно, какая именно секретная илиdentперсональные данные информация была загружена в Grok, и насколько тщательно система была обучена на основе федеральных данных. Если бы в систему были включены конфиденциальные материалы, эта практика могла бы противоречить федеральным законам о защите частной жизни и правилам предотвращения конфликта интересов.
Пять экспертов по этике и технологиям предупреждают, что такой доступ может предоставить компаниям Маска непропорционально большую информацию о непубличных данных оtracи даже помочь усовершенствовать саму компанию Grok в личных целях.
Теоретически, любая модель ИИ, обученная наdentправительственных данных, должна соответствовать строгим правовым гарантиям. Протоколы обмена данными обычно включают в себя многократные согласования и контроль для предотвращения несанкционированного разглашения.
Обходя эти проверки, DOGE рискует раскрыть личные данные миллионов американцев и предоставить xAI огромный массив информации из реального мира, недоступный конкурентам.
DOGE настаивает на том, что его миссия заключается в искоренении растрат, мошенничества и злоупотреблений. Представитель Министерства внутренней безопасности США сообщил Reuters , что DOGE никогда не оказывал давления на сотрудников с целью внедрения какого-либо конкретного инструмента.
«Мы сосредоточены на эффективности», — заявил пресс-секретарь. Однако два источника опровергают это утверждение, заявляя, что в последние недели представители DOGE настаивали на том, чтобы подразделения DHS запустили пилотный проект Grok для решения задач, начиная от анализа иммиграционных дел и заканчивая прогнозированием бюджета, даже после того, как DHS внезапно заблокировало все коммерческие платформы ИИ из-за опасений утечки данных.
Согласно действующей политике Министерства внутренней безопасности (DHS), сотрудники могут использовать коммерческие чат-боты только для работы с несекретной, неконфиденциальнойdent, в то время как для обработки конфиденциальных данных используется специально разработанный для DHS искусственный интеллект. Но когда ChatGPT и другие чат-боты были отключены в мае, достижения DOGE произошли в юридически серой зоне: внутренний бот DHS оставался активным, но Grok так и не был официально подключен к системе.
Использует ли Маск DOGE для централизации контроля?
Помимо Министерства внутренней безопасности, деятельность DOGE распространяется на сети Министерства обороны, где, по сообщениям, около дюжины аналитиков были проинформированы о том, что сторонний инструмент искусственного интеллекта отслеживает их активность. Хотя представители Министерства обороны отрицают, что DOGE руководила внедрением каких-либо систем ИИ, электронные письма и переписка в текстовых сообщениях, полученные агентством Reuters, говорят об обратном.
Критики рассматривают эти шаги как иллюстрацию более широкой стратегии Маска по использованию ИИ для централизации контроля над бюрократией и последующей монетизации получаемого потока данных.
«Создается явное впечатление, что речь идет о злоупотреблении служебным положением»
Ричард Пейнтер, профессор государственной этики.
Если Маск напрямую отдал приказ о развертывании Грока, он мог нарушить уголовные законы, запрещающие должностным лицам влиять на решения, которые приносят выгоду их личным интересам.
В основе дискуссии лежит двойная роль Grok: как общедоступного чат-бота на платформе X и как экспериментального аналитического механизма внутри правительственных брандмауэров. На веб-сайте xAI даже намекается, что взаимодействие с пользователями может отслеживаться «в конкретных деловых целях», предполагая, что каждый федеральный запрос может быть использован для обратной связи в процессе обучения Grok.
Два сотрудника DOGE , Кайл Шутт и Эдвард Користин, последний из которых известен в интернете как «Большие яйца», возглавили большую часть инициативы по внедрению ИИ. Хотя они отказались от комментариев, их усилия соответствуют сложившейся схеме: за последний год DOGE уволило тысячи кадровых чиновников, взяло под контроль защищенные базы данных и продвигало ИИ как идеальный инструмент для реформирования бюрократии.
Защитники конфиденциальности предупреждают, что интеграция непроверенного ИИ в критически важные для национальной безопасности среды — это верный путь к утечкам данных, кражеdentданных и эксплуатации со стороны иностранных противников.
«Это, пожалуй, самая серьезная угроза конфиденциальности, какую только можно себе представить», — говорит Альберт Фокс Кан из проекта по надзору за технологиями наблюдения.
Также существуют опасения, что из-за недостаточной прозрачности и отсутствия четких ограничений эксперимент DOGE с искусственным интеллектом может изменить федеральную систему управления данными, независимо от того, осознает это общественность или нет.
