최고 경영진의 82%는 안전하고 신뢰할 수 있는 AI 가 중요하다고 생각합니다. 그러나 이들 중 24%만이 GenAI와 관련된 이니셔티브에 보안을 구축했습니다. 이는 RSA 컨퍼런스 2024에서 발표된 공동 연구인 IBM과 Amazon Web Services의 새로운 연구에 따른 것이며, 설문 조사의 세부 결과는 AI의 안전한 사용 사례를 추진하는 방법에 대한 최고 경영진의 견해에 중점을 두었습니다. 생성 AI에 대해. dent 의 24%만이 생성적 AI 이니셔티브에서 보안 차원을 고려한 반면, 약 70%는 혁신이 보안보다 우선한다고 답했습니다.
혁신과 보안의 균형
대부분의 경영진은 예측할 수 없는 위험이 Gen AI 이니셔티브에 영향을 미칠 것이라고 걱정하지만 보안을 우선시하지는 않습니다. 완전히 실현된 AI 위협 환경은 아직 발생하지 않았지만 일부 사용 사례에서는 ChatGPT 또는 이와 유사한 것을 사용하여 피싱 이메일 스크립트 및 딥페이크 오디오를 생성했습니다. IBM X-Force 보안 연구원들은 기술이 성숙해지면서 AI 시스템도 점점 더 큰 규모로 표적이 될 것으로 예상된다고 경고했습니다.
통합된 AI 위협 표면은 이제 막 형성되기 시작했지만, IBM X-Force 연구원들은 업계 환경이 공통 기술 및 활성화 모델을 중심으로 성숙해지면 위협 행위자들이 이러한 AI 시스템을 더욱 광범위하게 표적으로 삼을 것으로 예상하고 있습니다. 실제로 시장이 빠르게 성숙하고 이미 하드웨어, 소프트웨어, 서비스 전반에 걸쳐 선도적인 제공업체가 등장하면서 이러한 융합이 진행되고 있습니다.
IBM 보고서에 은 비즈니스의 일부로 구축하고 사용하는 AI 모델을 적절하게 보호하지 않는 기업입니다. GenAI 도구를 잘못 적용하면 민감한 데이터를 잘못 처리하거나 유출할 수 있습니다. 보고서에 따르면, 직원들이 기업 보안팀의 승인 및 보안을 받지 않은 GenAI 도구를 사용함에 따라 조직 내에서 "섀도우 AI"의 사용이 증가하고 있습니다.
이를 위해 IBM은 지난 1월 GenAI 확보를 위한 프레임워크를 발표했다. 기본 원칙은 AI 모델을 훈련하는 데 사용되는 데이터를 중앙 집중화하고, 취약성에 대한 개발 파이프라인 검색을 조합하여 모델을 보호하고, AI 사용에 대한 정책 및 액세스 제어를 시행하고, 실시간 AI 모델 기반 공격에 대한 사용을 보호하는 것입니다.
AI 파이프라인 보안
월요일, IBM의 X-Force Red 공격 보안 팀은 레드 팀 구성을 통해 AI 애플리케이션, AI 모델 및 MLSecOps 파이프라인을 평가하는 인공 지능 테스트 서비스를 출시했습니다. 수요일 RSA 컨퍼런스 2024에서 IBM은 "지금 혁신하고 나중에 보안을 확보하시겠습니까?"를 발표할 예정입니다. 결정, 결정…”을 통해 AI 파이프라인에 대한 거버넌스 확보 및 구축에 대해 설명합니다.
두 번째 연사는 IBM Security의 보안 기술 프로그램 디렉터인 Ryan Dougherty였습니다. 그는 TechTarget Editorial과의 인터뷰에서 AI를 즉시 확보하는 것이 기술 분야에서 IBM Security의 주요 관심사 중 하나라고 말했습니다. 그는 "이것이 바로 이 영역이 매우 중요한 이유이며, 특히 생성 AI의 경우 비즈니스 애플리케이션과 프로세스에 깊이 내장되어 있기 때문입니다."라고 말했습니다. 비즈니스 패브릭을 통합하면 잠재적인 위험과 위협을 뛰어넘을 수 있습니다.
그에 따르면, 비즈니스 관점에서 AI는 그 본질에 기반을 두어야 합니다.
“제너레이티브 AI는 방대한 양의 민감한 비즈니스 데이터에 대해 훈련되고 운영되며, 경쟁 우위가 확보되는 곳이기 때문에 새로운 핵심 보석을 확보해야 합니다. 이는 조직이 보유하고 있는 데이터와 이를 사용하여 얻는 통찰력에 달려 있습니다. 생성적 AI를 애플리케이션 내에 구현하여 비즈니스를 개선합니다.”
Dougherty는 매우 비싼 모델을 위해 많은 돈을 지불하고 있다고 덧붙였습니다. 이러한 생성적 AI 애플리케이션을 운영하는 데 많은 IP와 투자가 들어가고 있으며 기업은 이를 보호할 여력이 없습니다.
Key Difference Wire는 암호화 브랜드가 헤드 라인을 빠르게 돌리고 지배하는 데 도움이됩니다.
