Сэм Альтман из OpenAI призывает остановить гонку ИИ, поскольку государственные структуры используют Anthropic для создания биологического оружия
Фото Солен Фейисса на Unsplash.
- На этой неделе Сэм Альтман заявил сотрудникам OpenAI, что компания готова замедлить разработку передовых технологий в области ИИ, если конкуренты поступят так же.
- Издание Anthropic сообщило, что связанные с государством ученые пытались использовать Клода для исследований, которые могли бы послужить основой для разработки биологического оружия.
- Законодатели в Калифорнии и Вашингтоне обсуждают обязательные правила, поскольку крупнейшие лаборатории искусственного интеллекта сталкиваются с внутренними протестами по вопросам безопасности и возможными IPO.
На этой неделе сотрудникам OpenAI сообщили, что лаборатория ИИ готова замедлить темпы своей работы в самых передовых областях искусственного интеллекта. Сэм Альтман предложил аналогичную меру конкурентам в сфере ИИ, включая Anthropic, которая также признала риски, связанные с разработкой ИИ, в отчете, в котором сообщалось, что ученые, связанные с государственными учреждениями, пытались использовать ее модели Клода для исследований в области биологического оружия.
В OpenAI заявили, что уже приостановили некоторые внутренние процессы обучения и упростили разработку моделей из-за соображений безопасности.
Обе компании продолжают подогревать интерес к теме, намекая, что постепенное появление новых сведений разжигает дискуссию о том, не слишком ли быстро отрасль движется вперед в преддверии публичных размещений акций
Почему Альтман хочет замедлить развитие искусственного интеллекта?
На общекорпоративном собрании генеральный директор OpenAI Сэм Альтман сообщил присутствующим, что лаборатория искусственного интеллекта, наряду с другими лабораториями, получившими разрешение на использование своих разработок, может замедлить темпы выпуска передовых моделей.
Как сообщают источники Bloomberg, Альтман признал, что, учитывая добровольный характер подобных соглашений, не каждая компания поддержит этот план, поскольку, по его словам, это не обязательно произойдет.
Этот скептицизм имеетdent. Три года назад, в марте 2023 года, Илон Маск, Стив Возняк и более 1000 других человек подписали открытое письмо с требованием приостановить разработку передовых технологий в области искусственного интеллекта на шесть месяцев.
Как сообщали тогда СМИ , лаборатории фактически не выполнили согласованный ими совместно мораторий.
Призыв к снижению рисков, связанных с ИИ, также прозвучал в сообщении от 6 сентября, опубликованном главным научным сотрудником OpenAI Якубом Пачоцким, который призвал компании, занимающиеся ИИ, координировать свои действия, «чтобы замедлить дальнейшую разработку по мере необходимости». Пачоцкий выразил надежду, что добровольное замедление «станет обычным явлением, пока не будут установлены общие критерии безопасности»
В июле Альтман заявил, что сообщил представителям Белого дома о необходимости сдерживать развитие ИИ. Вместе с генеральным директором Anthropic Дарио Амодеи Альтман ранее также подписал заявление, состоящее из одной строки, в котором ИИ объявлялся угрозой исчезновения в масштабах всего общества.
Можно ли использовать модели искусственного интеллекта для создания биологического оружия?
Модели искусственного интеллекта достигли такого уровня развития, что могут быть способны поддерживать исследования в области биологического оружия. Буквально на этой неделе компания OpenAI заявила, что ее модели решили математическую задачу Навье-Стокса, хотя и в спорном порядке.
Компания Anthropic представила новый повод для этой дискуссии, опубликовав 10 сентября 154-страничный отчет лаборатории об угрозах, в котором подробно описали пять случаев попыток исследователей использовать возможности лаборатории Клода для поддержки своей работы над биологическим оружием.
В Anthropic заявили, что попытки из «неподдерживаемых регионов» были направлены на обход географических ограничений и сокрытие цели своей работы. Лаборатория сообщила, что удалила эти учетные записи, но не назвала ни страны, ни учреждения.
Перевесили ли риски, связанные с ИИ, теперь преимущества?
Эти сообщения появились на фоне волны тревожных заявлений внутри лабораторий. 8 сентября исследователь Джейкоб Коксон уволился и обвинил OpenAI и Anthropic в «игре с нашими жизнями», заявив, что коллеги считают, что эта технология может «убить нас всех к концу десятилетия», и предупредив о вымирании человечества к 2030 году.
Его пост собрал более 150 миллионов просмотров. Два дня спустя, 10 сентября, бывшие сотрудники Anthropic и DeepMind (подразделения Google) выразили аналогичные опасения и призвали к большей прозрачности.
В конце июля петиция о создании механизма замедления разработки собрала подписи более чем 1000 сотрудников крупнейших компаний, занимающихся искусственным интеллектом.
В настоящее время OpenAI добивается от Конгресса принятия обязательных, основанных на возможностях, правил безопасности, охватывающих тестирование,dent оценки, кибербезопасность и отчетность обdent . «Перспектива ускоренного развития ИИ требует большего, чем просто добровольные обязательства», — написал главный директор по глобальным вопросам Крис Лехейн.
Калифорния сделала первый шаг: в среду губернатор Гэвин Ньюсом подписал законопроекты SB 813 и AB 1405, а также сопутствующий законопроект AB 1864, направленный на защиту от биологических угроз, создаваемых с помощью искусственного интеллекта.
В Вашингтоне сенатор Берни Сандерс представил законопроект о приостановке развития искусственного интеллекта и запрете искусственного сверхинтеллекта, заявив в интервью Би-би-си, что игнорирование предупреждений ученых сделает человека «идиотом».
dent Дональд Трамп в четверг возразил, заявив, что опасается: «Если мы не победим в борьбе с искусственным интеллектом, мы окажемся в очень плохом положении»
Самые умные криптоаналитики уже читают нашу рассылку. Хотите присоединиться? Вступайте в их ряды.
Часто задаваемые вопросы
Что Сэм Альтман сказал сотрудникам OpenAI?
На общекорпоративном собрании на этой неделе Альтман заявил, что OpenAI может замедлить темпы разработки передовых технологий искусственного интеллекта, возможно, в координации с другими ведущими лабораториями, хотя он отметил, что некоторые компании могут с этим не согласиться.
Что показал отчет компании Anthropic об угрозах, связанных с биологическим оружием?
В 154-страничном отчете компании Anthropic описаны пять случаев, когда исследователи, некоторые из которых связаны с государственными учреждениями, использовали Claude способами, которые могли бы способствовать разработке биологического оружия, включая исследование чикунгуньи, связанное с военным исследовательским институтом; компания заблокировала соответствующие учетные записи.
Как законодатели реагируют на опасения по поводу безопасности искусственного интеллекта?
В среду губернатор Калифорнии Гэвин Ньюсом подписал несколько законопроектов о контроле за ИИ, в том числе один, направленный на борьбу с биологическими угрозами, создаваемыми с помощью ИИ, а сенатор США Берни Сандерс представил законопроект о приостановке развития передового ИИ и запрете искусственного сверхинтеллекта.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Ханна Коллимор
Ханна — писательница и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптопространстве. В CryptopolitanХанна пишет для новостной страницы, освещая и анализируя последние события в DeFi, RWA, регулирования криптовалют, ИИ и передовых технологических отраслей. Она окончила университет Аркадия со степенью в области делового администрирования.
