В понедельник более 600 сотрудников Google (GOOGL, GOOG) потребовали от Сундара Пичаи не допускать использования искусственного интеллекта Google Пентагоном для выполнения секретных работ.
Письмо поступило от сотрудников DeepMind и Google Cloud, которые сослались на сообщение издания The Information, в котором говорилось, что Google и Министерство обороны США ведут переговоры об использовании Gemini в секретных системах.
Сотрудники Google приводят многочисленные причины, по которым они препятствуют участию Gemini в секретной работе Пентагона
Письмо начиналось с прямого предупреждения Сундару, которому работники говорят: «Мы — сотрудники Google, и нас очень беспокоят продолжающиеся переговоры между Google и Министерством обороны США. Как люди, работающие над искусственным интеллектом, мы знаем, что эти системы могут централизовать власть и что они совершают ошибки»
Сотрудники заявили, что, по их мнению, близость к этой технологии накладывает на них «ответственность за выявление и предотвращение ее наиболее неэтичных и опасных применений»
«Мы просим вас отказаться от предоставления наших систем искусственного интеллекта для выполнения секретных задач. В противном случае такое использование может происходить без нашего ведома и без возможности его предотвратить», — заявили сотрудники Google. В письме далее пояснялось, что они хотят, чтобы ИИ помогал людям, а не способствовал причинению вреда. В качестве основных опасений были названы летальное автономное оружие и массовая слежка. Они также отметили, что риски выходят за рамки этих двух областей, поскольку секретная работа может скрывать то, что происходит на самом деле.
Их аргумент заключался в том, что если Google принимает секретные военные задания, у сотрудников может не быть возможности проверить их использование, поставить под сомнение или остановить их, и единственной реальной гарантией является отказ от секретной работы до заключения сделки.
Они также предупредили, что неправильный выбор может нанести ущерб репутации, бизнесу и положению Google в мире. Сотрудники заявили, что их собственная безопасность и критически важная инфраструктура находятся под угрозой, а жизни и гражданские права уже подвергаются риску из-за неправильного использования технологий, созданных такими же людьми, как они.
Пентагон при Трампе прокладывает себе путь к масштабному доступу к искусственному интеллекту для американских военных
Руководство Пентагона заявило, что военные должны иметь возможность использовать коммерческий ИИ для «всех законных целей». По словам чиновников, эта формулировка дает правительству возможность использовать технологию в различных случаях, оставаясь при этом в рамках законодательства США и военных правил.
Специалисты по искусственному интеллекту не считают это достаточной защитой. Их обеспокоенность возросла из-за высказываний и действий самого Трампа. Ранее в этом месяцеdent Дональд Трамп пригрозил разбомбить «каждый» мост и электростанцию в Иране. Эксперты заявили газете The Post, что такая атака нарушит международное право. Удары его администрации по судам, которые, по утверждению властей, перевозили наркотики, также были оспорены экспертами по международному праву.
Письмо Google появилось в то время, когда другие компании, занимающиеся искусственным интеллектом, уже вовлечены в конфликты с Пентагоном. Компания Anthropic, частная компания, стоящая за Claude, в прошлом году разместила свою технологию в системах американских военных. Эти инструменты помогли сортировать данные иdentпотенциальные цели.
Затем в феврале Пентагон отстранил Anthropic от всех работ в Министерстве обороны. Компания пыталась включить в контрактtrac, запрещающие использование ее ИИ для массового наблюдения или создания смертоносного автономного оружия.
Компания Anthropic и правительство сейчас судятся по поводу законности этого ограничения. Это дело привлекло дополнительное внимание к Google и OpenAI, поскольку обе компании сотрудничают с американскими военными.
OpenAI — частная компания, поэтому у неё нет биржевого тикера. В феврале, вскоре после ухода Anthropic, она заключила соглашение о предоставлении ИИ для выполнения секретных задач. Сэм Альтман, генеральный директор OpenAI, заявил, чтоdent правительственныйtracблокирует использование ИИ для массового наблюдения в США и создания смертоносного автономного оружия.
Google уже сталкивался с подобной ситуацией. В 2018 году рабочие протестовали против Пентагона , в рамках которого использовался искусственный интеллект Google для идентификацииdentна видеозаписях с дронов. Сотни людей подписали петицию против этой работы, и позже Google решил не продлевать соглашение.
После той борьбы Google приняла решение, согласно которому ее технологии искусственного интеллекта не будут использоваться для создания оружия или наблюдения. Однако в последние годы компания активно искала новые военныеtrac. В прошлом году Google сняла эти ограничения. В декабре она заключила соглашение, позволяющее Министерству обороны использовать Gemini.
