Google получил петицию от сотен сотрудников с требованием отказаться от партнерства с Пентагоном Трампа в сфере ИИ

Более 600 сотрудников Google (GOOGL, GOOG) в понедельник обратились к Сундару Пичаю с призывом не допускать Пентагон к ИИ-технологиям Google для работы с засекреченными данными.

Письмо было направлено сотрудниками из подразделений DeepMind и Google Cloud, которые сослались на отчет издания The Information, согласно которому Google и Министерство обороны США ведут переговоры об использовании Gemini в засекреченных системах.

Сотрудники Google изложили множество причин для запрета использования Gemini в секретных проектах Пентагона

Письмо начиналось с прямого предупреждения для Сундара, в котором сотрудники писали: «Мы — сотрудники Google, глубоко обеспокоенные продолжающимися переговорами между Google и Министерством обороны США. Как люди, работающие в сфере ИИ, мы знаем, что эти системы могут концентрировать власть и что они допускают ошибки».

Сотрудники заявили, что считают свою близость к технологии дающей им «ответственность выявлять и предотвращать ее наиболее неэтичные и опасные применения».

«Мы просим вас отказаться от предоставления наших ИИ-систем для засекреченных рабочих нагрузок. В противном случае такое использование может происходить без нашего ведома или возможности его остановить», — заявили сотрудники Google. В письме далее объяснялось, что они хотят, чтобы ИИ помогал людям, а не поддерживал причинение вреда. Они назвали летальные автономные вооружения и массовое наблюдение как основные страхи. Они также заявили, что риски выходят за рамки этих двух областей, поскольку засекреченная работа может скрывать реальное положение дел.

Их аргумент заключался в том, что если Google примет секретные военные заказы, сотрудники могут не иметь возможности проверить использование технологий, подвергнуть его сомнению или остановить его, и единственной реальной гарантией является отказ от классифицированных работ до завершения сделки.

Они также предупредили, что неверный выбор может нанести ущерб репутации, бизнесу и положению Google в мире. Сотрудники заявили, что их собственная безопасность и критическая инфраструктура сталкиваются с активными угрозами, в то время как жизни и гражданские права уже находятся под угрозой из-за неправильного использования технологий, созданных такими же людьми, как они.

Пентагон Трампа пробивает себе путь к масштабному доступу к ИИ для вооруженных сил США

Руководители Пентагона заявляли, что военные должны иметь свободу использования коммерческого ИИ для «всех законных целей». Чиновники утверждают, что эта формулировка дает правительству пространство для использования технологии в различных случаях, оставаясь в рамках законодательства США и военных правил.

Работники в сфере ИИ не считают это достаточной защитой. Их обеспокоенность возросла из-за слов и действий самого Трампа. Ранее в этом месяце президент Дональд Трамп пригрозил бомбить «каждый» мост и электростанцию в Иране. Эксперты сообщили The Post, что такая атака нарушит международное право. Также его администрация подвергалась критике со стороны экспертов по международному праву за удары по судам, которые, по ее утверждениям, перевозили наркотики.

Письмо Google поступило на фоне того, как другие ИИ-компании уже вовлечены в конфликты с Пентагоном. Anthropic, частная компания, стоящая за созданием Claude, в прошлом году разместила свои технологии в военных системах США. Эти инструменты помогали сортировать данные и идентифицировать возможные цели.

Затем в феврале Пентагон отстранил Anthropic от всех работ в Министерстве обороны. Компания пыталась включить в контрактные условия положения о том, что ее ИИ не может использоваться для массового наблюдения или летальных автономных вооружений.

Anthropic и правительство сейчас находятся в суде по вопросу о законности этого отстранения. Это дело привлекло больше внимания к Google и OpenAI, поскольку обе компании работают с вооруженными силами США.

OpenAI является частной компанией, поэтому у нее нет тикера акции. В феврале она подписала контракт на предоставление ИИ для засекреченных рабочих нагрузок вскоре после того, как Anthropic была отстранена. Генеральный директор OpenAI Сэм Альтман заявил, что он уверен: контракт с правительством запрещает использование технологии для массового наблюдения в США и летальных автономных вооружений.

Google уже проходил через подобное. В 2018 году сотрудники протестовали против проекта Пентагона, в котором использовался ИИ Google для идентификации объектов на видео с дронов. Сотни человек подписали петицию против этой работы, и позже Google решил не продлевать контракт.

После этого конфликта Google создала обязательство о том, что ее ИИ-технологии не будут использоваться для создания оружия или наблюдения. Однако в последние годы компания искала больше военных контрактов. В прошлом году Google отменила эти ограничения. В декабре она подписала соглашение, позволяющее Министерству обороны использовать Gemini.