Инструменты безопасности на базе ИИ и новый вызов DARPA для разработчиков открытого исходного кода
- DARPA запускает Кибервызов с использованием ИИ (AIxCC) для развития инструментов безопасности на основе искусственного интеллекта, предлагая призовой фонд в 20 млн долларов.
- Влияние ИИ на безопасность остается неопределенным, однако эксперты предупреждают об игнорировании его потенциала.
- Мультимодальный ИИ, развивающийся из генеративного ИИ, вскоре научится анализировать текстовые сообщения, видео и язык тела.
Искусственный интеллект (ИИ), особенно большие языковые модели (LLM), такие как GPT, был в центре обсуждений на недавних конференциях Black Hat и Def Con в Лас-Вегасе. Однако эксперты разделены во мнениях о том, как ИИ повлияет на уровень безопасности компаний, от защиты внутренних данных до разработки приложений.
Мария Маркштедтер, реверс-инженер Arm и эксперт по эксплуатации, перефразировала заявление генерального директора OpenAI Сэма Альтмана о том, что «ИИ, скорее всего, приведет к концу света, но тем временем появятся отличные компании». Маркштедтер во время своего ключевого выступления на Black Hat рекомендовала девиз «Двигайся быстро, ломай вещи», подчеркивая, что продукты часто изначально не имеют функций безопасности, и компании вынуждены инвестировать в безопасность.
Генеративный ИИ и мультимодальный ИИ
Генеративный ИИ, который в настоящее время фокусируется на тексте, эволюционирует в мультимодальный ИИ, способный обрабатывать чаты, ответы в реальном видео, анализ настроений и даже интерпретацию языка тела, согласно Маркштедтер. Она подчеркнула важность сохранения анонимности в этих системах и пересмотра безопасности данных.
Влияние на безопасность
Влияние ИИ на безопасность все еще неопределенно. Маркштедтер отметила, что ИИ уже влияет на безопасность данных, о чем свидетельствуют сотрудники, копирующие данные в черные ящики ИИ-чатботов. Однако более широкие последствия для безопасности остаются неясными. LLM могут генерировать вредоносный код, но не могут его выполнять, согласно двум бывшим сотрудникам OpenAI, обсуждавшим потенциальное использование ИИ в безопасности.
Несмотря на неопределенность, было достигнуто согласие, что запрет ИИ не является жизнеспособным долгосрочным решением. Бизнесы стремятся внедрять технологии ИИ, и безопасность ИИ в конечном итоге потребует принятия LLM и других технологий ИИ. Те, кто этого не сделает, отстанут, предупредили эксперты по безопасности.
Принятие ИИ в безопасности
Маркштедтер утверждала, что интеграция автономных агентов рискованна, но необходимо принять их реальность и разработать решения для повышения их безопасности. «Это наш шанс переосмыслить себя [и] наш уровень безопасности», — сказала она, призывая сообщество объединиться и способствовать исследованиям.
Кибервызов ИИ DARPA
Оборонная организация DARPA бросила вызов участникам Black Hat и Def Con помочь создать систему безопасности нового поколения на основе ИИ. Перри Адамс, менеджер программ в Управлении инноваций в области информации DARPA, объявила о двухлетнем кибервызове ИИ (AIxCC) на ключевом мероприятии Black Hat.
AIxCC направлен на разработку нового поколения инструментов кибербезопасности и предлагает общий призовой фонд в размере 20 миллионов долларов командам, создавшим лучшие системы. Соревнование имеет два трека: Финансируемый трек и Открытый трек. Участники Финансируемого трека будут отобраны из предложений, поданных в рамках запроса предложений Small Business Innovation Research, до семи малых предприятий получат финансирование до 1 миллиона долларов. Участники Открытого трека могут зарегистрироваться через веб-сайт соревнования без финансирования DARPA.
В 2024 году DefCon определит пять лучших компаний, которые перейдут во второй раунд экспериментов с дополнительным финансированием в размере 2 миллионов долларов. Победители Def Con 2025 года получат 4 миллиона долларов за первое место, 3 миллиона долларов за второе место и 1,5 миллиона долларов за третье место.
Сотрудничество с ведущими компаниями ИИ
AIxCC сотрудничает с ведущими компаниями ИИ, включая Anthropic, Google, Microsoft и OpenAI. Фонд безопасности открытого исходного кода (OpenSSF), проект Linux Foundation, будет служить советником по вызову, чтобы направлять команды в создании систем ИИ, способных решать важные вопросы кибербезопасности, такие как безопасность критической инфраструктуры страны и цепочек поставок программного обеспечения.
Соревнования AIxCC будут проводиться на DEF CON и состоят из двух фаз: полуфинальной фазы и финальной фазы. Оба соревнования пройдут на DEF CON в Лас-Вегасе в 2024 и 2025 годах.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Джон Палмер
Джон Мурангири пришел в Cryptopolitan, обладая навыками анализа рынка. Джон (также известный как JP) окончил Найробийский университет по специальности «Массовая коммуникация и медиаисследования». Ранее он публиковал аналитические материалы о криптовалютном рынке на InsideBitcoins.com и Metacoingraph.
