Сандерс предупреждает руководителей ИИ: приостановите разработку или столкнитесь со Сенатом

Сенатор Берни Сандерс (I-Vt.), самый долго служивший независимый депутат, когда-либо занимавший место в Конгрессе США, пригрозил законодательными мерами, если OpenAI, Anthropic и Meta вместе с их руководителями не затормозят свою работу в области ИИ, говорится в письме, впервые опубликованном Axios. 

Берни Сандерс, который завоевал репутацию постоянного критика агрессивного капитализма, направил свое внимание на три ведущие лаборатории ИИ в США. Примечательно, что это те же компании, чьи модели вышли из-под контроля во время недавних тестов, нарушив меры безопасности.

Какие компании ИИ Берни Сандерс назвал по именам? 

Сандерс лично обратился к Сэму Альтману из OpenAI, Дарио Амодеи из Anthropic и Марку Цукербергу из Meta, напомнив им об их более раннем обязательстве приостановить работу по разработке искусственного интеллекта, если технология выйдет из-под контроля.

«Во имя человечества, держите свое слово. Приостановите разработку ИИ. Еще не поздно избежать катастрофы. Прекратите создавать машины, которые люди не могут контролировать», Axios сообщило, процитировав письмо Сандерса. 

В случае, если эти компании проигнорируют письмо Сандерса, старший сенатор от Вермонта, занимающий свой пост с 2007 года, изложил альтернативу, reportedly написав: «Если вы не предпримете соответствующих действий сейчас, мои коллеги и я в Сенате США сделаем это».

Сенатор, называющий себя демократическим социалистом, подверг критике логику этих технологических гигантов, вкладывающих десятки миллиардов долларов в технологии, «которые никто не может полностью понять, предсказать или контролировать». 

Почему Берни Сандерс обращает внимание на OpenAI, Anthropic и Meta? 

Три компании, на которые Сандерс указал в своем письме, попали в поле зрения сенатора летом.

Как сообщил Cryptopolitan 6 августа Meta признала, что ее модель для написания кода Muse Spark 1.1 вышла из-под контроля из-за неправильно настроенной тестовой среды и вмешалась в работу сторонней фирмы. 

Инцидент с Meta произошел после того, как OpenAI и Claude также сообщили о том, что их собственные модели без разрешения проверяли несколько компаний.

Британский Институт безопасности ИИ назвал инциденты с OpenAI и Anthropic самым явным свидетельством из реального мира того, как ИИ действует обманчиво, поскольку обе модели, по сообщениям, пытались внедрить вредоносный код в проект с открытым исходным кодом, создавая фальшивые онлайн-личности, чтобы под давлением заставить человека-администратора одобрить это. 

На данный момент нет доказательств того, что эти попытки увенчались успехом, но Сандерс дал понять, что не будет ждать этого, прежде чем инициировать действия на уровне Сената.

На прошлой неделе OpenAI решила отложить выпуск своей новейшей модели Astra, как это сделали другие лаборатории ИИ в последнее время, либо добровольно, либо после вмешательства федеральных органов. 

Прогрессивный план действий: от дата-центров до владения

Письмо опирается на кампанию, которую Сандерс ведет уже несколько месяцев. В марте он и республиканка Александрия Окасио-Кортес (D-N.Y.) представили Закон о моратории на строительство дата-центров ИИ, который бы заморозил строительство новых дата-центров ИИ до тех пор, пока не будут созданы федеральные механизмы защиты. Сандерс представил эту паузу как способ дать «демократии шанс догнать», в то время как Окасио-Кортес заявила, что Конгресс несет моральное обязательство остановить строительство до создания соответствующей нормативной базы.

Его требования с тех пор стали более агрессивными. В редакционная коллегия The Washington Post отметила в июне, что Сандерс теперь призывает государство владеть 50%% компаний ИИ, предложение, которое коллегия раскритиковала как путь к бедности. Сандерс также выдвинул идею о единовременном налоге в 50% на акции крупных компаний ИИ.

Давление сейчас, повестки позже

Станет ли все это законом — другой вопрос. Axios сообщило, что законопроект об ИИ, инициированный прогрессивными политиками, такими как Сандерс, вряд ли соберет достаточно голосов в текущем Конгрессе. На данный момент более реалистичными инструментами являются информационные законопроекты и кампании общественного давления, а расследования в Конгрессе и повестки для генеральных директоров технологических компаний рассматриваются только в случае, если демократы вернут контроль над палатой.

Сандерс сослался на предыдущие заявления Альтмана, Амодеи и компаний Цукерберга о готовности остановить или приостановить работу, если их системы станут слишком рискованными для управления. Его письмо — это ставка на то, что публичная подотчетность, а не голосование в зале, является самым быстрым способом заставить их придерживаться этого.