Создатели моделей искусственного интеллекта просят правительства помочь финансировать киберзащиту
- Более 100 компаний обратились к правительствам с просьбой профинансировать киберзащиту больниц и предприятий водоснабжения.
- В число подписавших соглашение входят OpenAI, Anthropic, Google и Microsoft.
- В июле агент OpenAI вырвался из тестовой среды и проник в работающие системы Hugging Face.
В четверг более 100 технологических и финансовых компаний подписали открытое письмо.
Они хотят, чтобы правительства оплачивали киберзащиту для больниц, водоканалов и местных органов власти, которые не могут себе этого позволить.
В число подписавших соглашение входят OpenAI, Anthropic, Google и Microsoft.
Больницам и предприятиям водоснабжения необходима киберзащита
В письме, опубликованном организацией OpenAI, изложены роли всех организаций, поставщиков решений в области кибербезопасности, правительств и самих передовых лабораторий искусственного интеллекта.
В нем содержится призыв к государственным органам координировать оборону на местном, национальном и международном уровнях, ускорить программы обеспечения надежного доступа к критически важной инфраструктуре и «финансировать киберзащиту, начиная с основных служб, которым не хватает персонала или бюджета для принятия мер»
Участники инициативы требуют от правительств предоставления доступа к средствам защиты на основе ИИ, проведения санкционированного тестирования и оказания практической поддержки больницам, водоканалам и местным органам власти. В свою очередь, лаборатории обязуются предоставить доступ к моделям, финансированию и обучению тем же самым специалистам по защите, которые испытывают нехватку ресурсов.
«В ближайшие месяцы кибератаки с использованием искусственного интеллекта станут гораздо более распространенными и изощренными, поскольку модели по всему миру будут становиться все более совершенными», — говорится в письме.
Уязвимым является всё, «от больниц и водоочистных сооружений до инфраструктуры, обеспечивающей работу интернета».
Соглашения подписали CrowdStrike, Okta, Fortinet, Cloudflare и Palo Alto Networks, а также банки и платежные сети, такие как Citi, Mastercard, Visa и US Bank.
В июле агент OpenAI вырвался из изолированной тестовой среды и получил доступ к Hugging Face, как Cryptopolitan сообщило.
Компания Hugging Face уведомила ФБР. Примерно через неделю OpenAI tracисточник утечки и обнаружила себя.
С тех пор за аналогичными взломами, о которых сообщалось, стояли антропогенные и мета-агенты.
Британский Институт (AISI) провел 122 имитационных учения по кибербезопасности и зафиксировал 19 нарушений правил. 17 из них были связаны с Mythos 5 от Anthropic, а два других — с GPT-5.6-Sol от OpenAI.
В одном из случаев агент написал вредоносный код и создал поддельные онлайн-dent, чтобы обманом заставить человека одобрить его.
AISI заявила, что ни один изdentне причинил реального вреда.
Daybreak, Mythos и Perception уже поступили в продажу
Некоторые лаборатории, подписавшие обращение, до сих пор поставляют более мощные модели, именно те возможности, которые, согласно их письму, являются источником надвигающейся угрозы.
Каждая из крупнейших лабораторий уже имеет продукт для продажи в оборонной сфере. У OpenAI есть Daybreak, у Anthropic — Mythos, а Microsoft выпустила киберплатформу под названием Perception.
На практике, резкое увеличение государственного финансирования обороны критически важной инфраструктуры будет направлено на средства, производимые этими компаниями.
В письме нынешний момент описывается как «окно возможностей для защитников», и утверждается, что современные модели предоставляют командам безопасности новые возможности для устранения старых пробелов, если руководители будут действовать быстро.
Если вы это читаете, значит, вы уже впереди. Оставайтесь на шаг впереди, подписавшись на нашу рассылку.
Часто задаваемые вопросы
Кто подписал открытое письмо по киберзащите?
Подписали соглашения более 100 компаний, включая лаборатории искусственного интеллекта OpenAI, Anthropic, Google и Microsoft, фирмы по кибербезопасности, такие как CrowdStrike, Okta и Fortinet, а также финансовые учреждения, включая Citi, Mastercard и Visa.
Что компании просят сделать правительства?
В письме содержится просьба к правительствам координировать киберзащиту на местном, национальном и международном уровнях и финансировать ее, начиная с таких жизненно важных служб, как больницы, водопроводные предприятия и органы местного самоуправления, которым не хватает персонала или бюджета для самозащиты.
Почему время публикации этого письма имеет такое значение?
Это произошло после реальныхdent, в которых агенты ИИ взламывали работающие системы, включая агента OpenAI, который проник в системы Hugging Face в июле, и 19 нарушений правил, зафиксированных британским Институтом безопасности ИИ агентами OpenAI и Anthropic во время тестирования.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Ранда Мозес
Ранда Мозес — редактор и репортер Cryptopolitan освещающая темы технологий, искусственного интеллекта, робототехники, криптовалют, мошенничества и взломов. Она работает в криптопространстве с 2017 года. Ранее работала в Forward Protocol, AmaZix и Cryptosomniac. Ранда имеет степень в области электротехники иtron, полученную в Университете Брэдфорда.
