Google отозвал свое обещание не использовать ИИ для создания оружия и наблюдения

Компания Google исключила из своих принципов в области искусственного интеллекта (ИИ) пункт, ранее предусматривавший отказ от разработки ИИ для вооружений и наблюдения. Это изменение, о котором впервые сообщила газета The Washington Post 4 февраля, свидетельствует о новом подходе компании к партнерству в сфере национальной безопасности по мере все большей интеграции ИИ в военные и разведывательные операции.

В сообщении в блоге, опубликованном во вторник, руководители Google заявили, что обновление было необходимо в связи с растущим распространением ИИ и необходимостью для технологических компаний, базирующихся в демократических странах, оказывать поддержку государственным и оборонным заказчикам. 

Мы считаем, что демократические страны должны лидировать в разработке ИИ, руководствуясь такими основными ценностями, как свобода, равенство и уважение к правам человека. И мы считаем, что компании, правительства и организации, разделяющие эти ценности, должны работать вместе над созданием ИИ, который защищает людей, способствует глобальному росту и поддерживает национальную безопасность.

Google

Предыдущие принципы компании в области ИИ, принятые в 2018 году, прямо отвергали «оружие или другие технологии, основная цель или применение которых заключается в причинении или непосредственном «нанесении вреда людям», а также «технологии, которые собирают или используют информацию для наблюдения, нарушая общепринятые международные нормы», и теперь удалены с веб-сайта, посвященного принципам ИИ.

Google обновляет принципы искусственного интеллекта в целях «национальной безопасности»

В пересмотренных принципах Google теперь говорится, что компания продолжит разработку ИИ в тех случаях, когда «общая потенциальная выгода существенно превышает предвидимые риски и недостатки». Это обновление знаменует собой заметный отход от прежней позиции, которая подчеркивала широкие этические соображения и избегание применения ИИ, способного причинить вред.

Более того, лидеры американской технологической индустрии, по всей видимости, работают над улучшением возможностей страны в области искусственного интеллекта, чтобы продвинуться вперед в технологической «холодной войне» между Соединенными Штатами и Китаем. 

В понедельник главный технический директор Palantir Шьям Санкар назвал гонку за искусственный интеллект «общенациональным усилием», которое должно выйти за рамки Министерства обороны, чтобы «Америка могла победить»

В течение многих лет ограничения Google на применение ИИ в сфере национальной безопасности делали компанию исключением среди ведущих фирм, занимающихся ИИ. Другие технологические гиганты, включая Microsoft и Amazon, поддерживали давние партнерские отношения с Пентагоном, но новые компании, занимающиеся ИИ, начинают налаживать связи с военными. 

В конце прошлого года компания OpenAI, создатель ChatGPT, объявила о сотрудничестве с оборонным подрядчикомtracдля разработки технологий искусственного интеллекта для вооруженных сил США. Аналогичным образом, компания Anthropic, разработавшая чат-бота Claude, заключила партнерское соглашение с Palantir для предоставления услуг искусственного интеллекта разведывательным агентствам США через Amazon Web Services.

Майкл Горовиц, профессор политологии в Университете Пенсильвании и бывший сотрудник Пентагона, хорошо разбирающийся в новых технологиях, заявил изданию WP, что изменение политики Google является частью более широкой тенденции. 

«Заявление Google — еще одно свидетельство того, что отношения между американским технологическим сектором и Министерством обороны продолжают укрепляться, в том числе и между ведущими компаниями в области искусственного интеллекта», — сказал он. «Вполне логично, что Google обновил свою политику, чтобы отразить новую реальность».

Скандал вокруг военных и разведывательныхtracGoogle

В 2023 году, как сообщило CNN, Google уволило более 50 сотрудников после серии протестов против проекта Nimbus — совместного контракта с Amazon на сумму 1,2 миллиарда долларов на облачные вычисления и искусственный интеллектtracпредоставления услуг правительству и военным Израиля. Руководство компании неоднократно защищало сделку, утверждая, что она не нарушает принципы Google в области искусственного интеллекта.

Однако документы, обнародованные газетой The New York Times в декабре, указывали на то, что соглашение Google с Израилем включало в себя возможности искусственного интеллекта, такие как категоризация изображений и trac, а также потенциальные положения для государственных производителей оружия. 

Как сообщает газета Times, за четыре месяца до подписания соглашения по проекту Nimbus руководители Google в частном порядке выражали опасения, что сделка может нанести ущерб репутации компании и что ее облачные сервисы могут быть связаны с нарушениями прав человека.

В то же время Google подверглась критике за ограничение внутренних обсуждений геополитических конфликтов, включая войну в Газе. Некоторые сотрудники обвинили компанию в подавлении дискуссий, одновременно углубляя ее участие вtracв области искусственного интеллекта, связанных с обороной и наблюдением.

В социальных сетях, после того как Google обновил принципы работы ИИ, пользователи спорят о том, направлен ли план технологического стартапа на защиту интересов американцев, или это всего лишь уловка, чтобы получить самый большой кусок cake в государственных оборонныхtrac.

«Итак… будет ли ИИ использоваться для создания американского оружия и систем слежки или будет продан тому, кто предложит самую высокую цену?» — одинспросил