Инсайдеры из сферы ИИ ожидают разрушительную атаку в течение 12 месяцев и уже ведут переговоры с Конгрессом
- Многие эксперты в области искусственного интеллекта ожидают крупного инцидента, связанного с ИИ, в течение шести–двенадцати месяцев.
- Руководители Anthropic и OpenAI проводят брифинги для Конгресса, чтобы повлиять на правила, которые будут приняты после первого инцидента.
- OpenAI заявила, что её учения по готовности не рассматривают такие сценарии как неизбежные.
Многие специалисты в сфере ИИ прогнозируют крупный инцидент, связанный с ИИ, в течение шести–двенадцати месяцев. По данным Axios, руководители Anthropic, OpenAI и других крупных разработчиков уже работают над теми законодателями, которые будут разрабатывать правила после инцидента.
Руководители признают, что в настоящее время ни один законопроект об ИИ не будет принят, поэтому они пытаются опередить экстренное законодательство, которое Вашингтон напишет после первой катастрофы.
Закон Сендера предусматривает тюремное заключение до 20 лет за нарушения
Планировщики ожидают, что по итогам промежуточных выборов 3 ноября демократы укрепят свои позиции и незамедлительно примут меры против развития продвинутых ИИ. Однако эти усилия сталкиваются с сопротивлением старого Конгресса, который плохо разбирается в технологиях, экономики, зависящей от расходов на центры обработки данных, и открытых моделей, которые любой желающий может загрузить уже сегодня.
Компании не считают, что контроль над обеими палатами Конгресса положит конец внутренним разногласиям, включая расколы внутри Демократической партии.
Предложения варьируются от запрета суперинтеллекта до приостановки разработки передовых систем. Одно из таких предложений внесли сенатор Берни Сандерс и конгрессмен Грег Казар; оно получило название «Закон о запрете искусственного сверхразума» (Ban Artificial Superintelligence Act).
Он запрещает использование ИИ, который соответствует человеческим возможностям или превосходит их по широкому спектру задач, а также останавливает передовые разработки до тех пор, пока новый федеральный орган не разработает стандарты безопасности. Нарушителям грозят штрафы и тюремное заключение сроком до 20 лет.
Обе политические партии и отдельные представители индустрии поддерживают обязательное наличие аварийных выключателей для продвинутых моделей. Некоторые эксперты ставят под сомнение саму возможность полного отключения всех систем искусственного интеллекта.
Один из помощников демократов привёл в пример финансовый кризис 2008 года и пандемию COVID-19 как примеры того, как Конгресс оперативно реагировал на предыдущие чрезвычайные ситуации.
Аналитики Anthropic и OpenAI опасаются кибератак, способных нарушить подачу электроэнергии и воды
Наиболее вероятный сценарий — кибератака такого масштаба, которая выведет из строя банковскую систему, интернет-провайдеров или даже службы энергоснабжения и водоканалы. По мнению экспертов, первый реальный ущерб от небезопасного ИИ лишь окончательно оттолкнёт насторожённую общественность от индустрии.
В центре внимания окажутся генеральный директор Anthropic Дарио Амодей, генеральный директор OpenAI Сам Алтман и президент Дональд Трамп, который до сих пор воздерживался от регулирования искусственного интеллекта.
Компании также проводят «красные команды» (red-teaming) для проверки этих наихудших сценариев, атакуя собственную защиту, чтобы выявить уязвимости.
Военное моделирование (war-gaming) является стандартной практикой как в бизнесе, так и в сфере национальной безопасности. Многие старшие исследователи и руководители считают, что крупный инцидент неизбежен.
«В OpenAI проводятся учения по готовности, в ходе которых команды обсуждают и прорабатывают различные потенциальные сценарии», — заявил представитель компании. «Эти сценарии не рассматриваются как неизбежные, а призваны помочь нам подготовиться к различным обстоятельствам». В Anthropic отказались от комментариев.
В Южной Корее одиночный злоумышленник, предположительно, использовал китайские ИИ-модели, включая DeepSeek, для атаки на два банка и кражи данных десятков тысяч клиентов.
CrowdStrike с умеренной уверенностью оценивает, что злоумышленник, скорее всего, является носителем китайского языка. По данным компании по кибербезопасности, после этого злоумышленник обратился к Claude Code от Anthropic за советом о том, где можно продать украденное.
Anthropic представила четыре примера того, как модели Claude во время тестирования выходили в открытый интернет и взламывали внешние системы. Лаборатория также изучает десятки тысяч случаев непредвиденного поведения моделей.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Часто задаваемые вопросы
К какому событию готовятся компании, занимающиеся искусственным интеллектом?
Масштабная кибератака, которая выведет из строя банки, интернет-провайдеров, а также системы энергоснабжения и водоснабжения.
Каким образом ИИ был использован при взломе южнокорейского банка?
По сообщениям, злоумышленник использовал китайские модели ИИ, включая DeepSeek, для кражи данных десятков тысяч клиентов банков.
Почему компании сейчас лоббируют свои интересы в Конгрессе?
Руководители компаний признают, что в настоящее время не может быть принят ни один законопроект об ИИ, поэтому они стремятся повлиять на экстренные меры, которые будут разработаны после первой крупной катастрофы.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Ранда Моуз
Ранда Мозес — редактор и репортёр Cryptopolitan, освещающая технологии, ИИ, робототехнику, криптовалюты, мошенничество и взломы. Она работает в сфере криптовалют с 2017 года. Ранда занимала должности в Forward Protocol, AmaZix и Cryptosomniac. Ранда имеет степень в области электротехники и электроники, полученную в Университете Брэдфорда.
