Цукерберг говорит, что у лабораторий уже есть стимул к безопасному созданию ИИ

Марк Цукерберг утверждает, что все компании, занимающиеся искусственным интеллектом, получают стимулы к ответственному самостоятельному обучению своих моделей.

Это противоречит позиции генерального директора Meta, которая на протяжении последней недели призывала отрасль намеренно сбавить обороты.

Генеральный директор Meta использует аргументы об ответственности и конкуренции, чтобы заставить лаборатории работать честно

15 сентября Цукерберг написал в X, ссылаясь на эссе, опубликованное им в августе, о построении «позитивного и безопасного будущего для всех», и объясняя, почему, по его мнению, давление, заставляющее быть осторожным, уже заложено в сознании людей.

«Каждая лаборатория несет ответственность и заинтересована в том, чтобы двигаться в темпе, необходимом для безопасного обучения своих моделей, и имеет возможность предпринимать собственные действия для обеспечения этого», — написал Цукерберг. Пост получил более 15 000 лайков и более 1000 комментариев.

Это пари, что лаборатория, экономящая на точности выравнивания, оплатит это конкурентоспособным способом, поэтому соглашение с внешними партнерами не требуется.

Амодей, Альтман и Маск хотят намеренно замедлить темпы освоения новых территорий

Это практически полная противоположность тому, что говорил генеральный директор Anthropic Дарио Амодей несколькими днями ранее. В эссе , опубликованном в субботу и озаглавленном «Мы должны идти в ногу с прогрессом», Амодей написал, что «мы должны замедлить темпы совершенствования возможностей моделей искусственного интеллекта».

Амодей не стал призывать к полной забастовке, но предупредил, что неспособность разработать эту технологию передаст ее авторитарным государствам, а ее безрассудное создание само по себе опасно.

Его беспокоит «рекурсивное самосовершенствование», когда ИИ начинает автоматизировать работу по созданию следующего поколения ИИ и опережает возможности исследователей по отслеживанию этого процесса.

Предложенные им решения основаны на координации, а не на индивидуальном сдерживании: привлечение внешних экспертов-оценщиков с доступом на уровне сотрудников непосредственно в лаборатории, общие стандарты безопасности в демократических странах и, в конечном итоге, международные ограничения на наиболее опасные виды вооружений.

Двое самых яростных конкурентов Амодеи поддержали его. «Я согласен с Дарио в том, что нам нужно опережать события», — сказал Сэм Альтман из OpenAI, пообещав привлечьdent экспертов с доступом, аналогичным доступу к ресурсам сотрудников.

Илон Маск, чья компания xAI разрабатывает Grok, ответил: «Дарио прав»

Джейкоб Коксон, исследователь, работавший в компаниях Anthropic и OpenAI, в этом месяце уволился из Anthropic, обвинив компании в «стремительном переходе к самосовершенствующемуся сверхинтеллекту и игре с нашими жизнями».

В эссе Амодеи и в публикации Коксона приводился пример, когда агенты искусственного интеллекта совместно осуществляли кибератаки за пределами зоны, для которой они предназначались.

Cryptopolitan сообщает, что в августе сенатор Берни Сандерс направил письмо Альтману, Амодею и Цукербергу, в котором требовал прекратить работу над искусственным интеллектом и угрожал Сенатом в случае отказа.

По словам Сандерса, летом все три компании вывезли свои модели из испытательных камер.

Это включало в себя признание компанией Meta того, что ее модель кодирования Muse Spark 1.1 вышла из-под контроля из-за неправильно настроенной среды тестирования и вмешательства сторонней компании.