- DARPA는 AI 기반 보안 도구를 발전시키기 위해 AI 사이버 챌린지(AIxCC)를 시작하며, 2천만 달러의 상금을 제공합니다.
- 보안 분야에 대한 AI의 영향은 여전히 불확실하지만, 전문가들은 그 잠재력을 무시하지 않도록 경고합니다.
- 생성형 AI에서 진화한 멀티모달 AI는 곧 채팅, 비디오, 바디 랭귀지를 해석할 것입니다.
인공지능(AI), 특히 GPT와 같은 대규모 언어 모델(LLM)은 최근 라스베이거스에서 열린 블랙햇(Black Hat)과 디프콘(Def Con) 컨퍼런스에서 논의의 중심에 있었습니다. 그러나 전문가들은 내부 데이터 보호부터 애플리케이션 개발에 이르기까지 AI가 기업의 보안 태도에 어떤 영향을 미칠지 의견이 분분합니다.
암(Arm)의 리버스 엔지니어이자 익스플로잇 전문가인 마리아 마르크스테터(Maria Markstedter)는 오픈AI CEO 샘 알트먼의 “AI는 아마도 세계 종말을 초래하겠지만, 그 사이에는 훌륭한 기업들이 탄생할 것”이라는 발언을 재해석했습니다. 마르크스테터는 블랙햇 기조연설에서 “빠르게 움직이고, 깨뜨려라(Move fast, break shit)”라는 모토를 권장하며, 제품들이 초기에는 보안 기능이 부족할 수 있으며 기업들이 보안에 투자하도록 강요받아야 한다고 강조했습니다.
생성형 AI와 멀티모달 AI
현재는 텍스트에 집중하고 있는 생성형 AI는 채팅, 실시간 비디오 응답, 감정 분석, 심지어 제스처 해석까지 처리할 수 있는 멀티모달 AI로 진화하고 있습니다. 마르크스테터는 이러한 시스템에서 익명성을 유지하는 것과 데이터 보안을 재고하는 것의 중요성을 강조했습니다.
보안에 미치는 영향
AI가 보안에 미치는 영향은 여전히 불확실합니다. 마르크스테터는 직원들이 데이터를 블랙박스 AI 채팅봇에 복사하는 등 AI가 이미 데이터 보안에 영향을 미치고 있다고 지적했습니다. 그러나 보안에 대한 광범위한 함의는 여전히 명확하지 않습니다. 두 전 오픈AI 직원은 AI가 악성 코드를 생성할 수는 있지만 실행할 수는 없다고 설명하며 보안에서의 AI 잠재력에 대해 논의했습니다.
불확실성에도 불구하고, AI를 금지하는 것이 장기적인 해결책이 될 수 없다는 데는 합의가 이루어졌습니다. 기업들은 AI 기술을 도입하기를 갈망하고 있으며, AI 보안은 결국 LLM과 기타 AI 기술을 수용해야 합니다. 보안 전문가들은 그렇지 않은 기업들은 뒤처질 것이라고 경고했습니다.
보안에서의 AI 수용
마르크스테터는 자율 에이전트를 통합하는 것은 위험하지만, 그들의 현실을 받아들이고 더 안전하게 만들기 위한 솔루션을 개발하는 것이 필수적이라고 주장했습니다. 그녀는 “이것은 우리 자신을 [그리고] 보안 태도를 재창조할 기회”라고 말하며, 커뮤니티가 모여 연구를 장려할 것을 촉구했습니다.
DARPA AI 사이버 챌린지
방위고등연구계획국(DARPA)은 블랙햇과 디프콘 참석자들에게 차세대 AI 기반 대응형 보안 시스템 개발을 돕도록 도전했습니다. DARPA 정보혁신국 프로그램 매니저 페리 애덤스(Perri Adams)는 블랙햇 기조연설에서 2년 간의 AI 사이버 챌린지(AIxCC)를 발표했습니다.
AIxCC는 새로운 세대의 사이버보안 도구 개발을 목표로 하며, 최상의 시스템을 개발한 팀에게 총 2,000만 달러의 상금을 제공합니다. 이 대회는 펀드 트랙(Funded Track)과 오픈 트랙(Open Track) 두 가지 트랙으로 구성됩니다. 펀드 트랙 참가자는 소기업 혁신연구(SBIR) 공고에 제출된 제안서에서 선정되며, 최대 7개 소기업이 최대 100만 달러의 자금을 지원받습니다. 오픈 트랙 참가자는 DARPA 자금 없이 대회 웹사이트를 통해 등록할 수 있습니다.
2024년 디프콘에서는 상위 5개 기업이 선정되어 추가 200만 달러의 자금으로 두 번째 실험 라운드에 진출합니다. 2025년 디프콘 우승자는 1위에 400만 달러, 2위에 300만 달러, 3위에 150만 달러를 받게 됩니다.
주요 AI 기업과의 협력
AIxCC는 앤트로픽(Anthropic), 구글(Google), 마이크로소프트(Microsoft), 오픈AI(OpenAI) 등 주요 AI 기업들과 파트너십을 맺고 있습니다. 리눅스 재단의 프로젝트인 오픈소스 보안 재단(OpenSSF)은 국가의 핵심 인프라와 소프트웨어 공급망 보안과 같은 중요한 사이버보안 문제를 해결할 수 있는 AI 시스템 구축을 팀에 안내하는 챌린지 고문 역할을 수행합니다.
AIxCC 대회는 디프콘에서 개최되며, 준결승 단계와 결승 단계로 구성됩니다. 두 대회는 모두 2024년과 2025년 라스베이거스 디프콘에서 열립니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
존 팰머
John Murangiri는 시장 분석 기술을 갖춘 채 Cryptopolitan에 합류했습니다. John(별명 JP)은 나이로비 대학교에서 대중 매체 및 미디어 연구 학사 학위를 취득했으며, 이전에는 InsideBitcoins.com과 Metacoingraph에 암호화폐 시장 인사이트를 기여한 바 있습니다.
