- 영국의 사이버 보안 기관은 AI 챗봇이 유해한 행동을 하도록 조작될 수 있다고 경고하며, 이를 고객 서비스 및 영업 목적으로 활용하는 기업들의 위험성을 지적했습니다.
- AI 챗봇의 취약점을 해커들이 악용하여 무단 작업과 보안 문제를 초래하고 있으며, 이는 특히 민감한 운영 환경에서 심각한 우려를 낳고 있습니다.
- 전 세계적으로 AI 챗봇의 취약성과 불분명한 기업 정책에 대한 우려가 커짐에 따라, 기업들은 AI 챗봇을 통합할 때 각별한 주의가 필요하다고 권고받고 있습니다.
영국의 국가 사이버 보안 센터(NCSC)는 운영에 AI 기반 챗봇 통합을 모색하는 기업들에게 중요한 경고를 발령했습니다. 센터의 전문가들은 시급한 문제를 발견했습니다. 이러한 고급 AI 챗봇, 또는 대규모 언어 모델(LLM)은 해로운 작업을 수행하도록 조작될 수 있으며, 이는 상당한 보안 우려를 제기합니다. 이 취약성의 영향은 고객 상호작용, 영업 활동 및 기타 중요한 영역에서 AI 기술을 활용하려는 기업에까지 미칩니다.
AI 챗봇 사용 증가로 보안 논의 촉발
AI 기반 챗봇이 다양한 부문에서 더 흔해짐에 따라, NCSC는 그 채택과 관련된 잠재적 보안 위험에 대해 경고를 높였습니다. 인간 대화를 모방하는 LLM에 의해 구동되는 이러한 챗봇은 온라인 검색, 고객 서비스 및 영업 기능에 대한 잠재적 대안으로 간주됩니다. 그럼에도 불구하고 NCSC는 해커와 연구원들이 프로그래밍의 약점을 악용하는 방법을 발견하여 잠재적으로 해로운 결과를 초래했기 때문에, 이를 회사의 프로세스에 통합하면 취약점이 노출될 수 있다고 경고합니다.
핵심 문제는 이러한 AI 기반 챗봇에 내장된 취약성에 있습니다. 해커는 AI를 오도하여 수행해서는 안 되는 작업을 실행하도록 만드는 무단 명령을 도입하여 이러한 취약점을 악용할 수 있습니다. 예를 들어, 사이버 범죄자는 은행 챗봇을 수행해서는 안 되는 거래를 수행하도록 속이는 쿼리를 설계할 수 있습니다. 이러한 본질적인 취약성은 민감한 정보나 금융 작업과 관련된 작업에 대해 이러한 AI 도구의 신뢰성에 의문을 제기합니다.
NCSC는 LLM을 서비스에 통합할 때 기업이 신중하게 진행해야 할 필요성을 강력히 강조합니다. 베타 소프트웨어 릴리스와 유사점을 들어, 센터는 기업들이 실험용 소프트웨어에 대해 행사하는 것과 유사한 회의론으로 이러한 AI 모델을 대할 것을 촉구합니다. 이 조언은 고객 거래나 중요한 작업과 관련된 작업을 맡기는 것을 자제하는 것으로 확장됩니다. 이 신중한 접근 방식은 AI가 유망함을 보여주지만 그 구현은 한계와 잠재적 위험에 대한 현실적인 이해로 균형을 이루어야 한다는 점점 커지는 인식과 공명합니다.
AI 보안에 대한 글로벌 우려
LLM에서 비롯된 과제는 영국에 국한되지 않습니다. 국제적으로, 규제 기관들은 이러한 고급 AI 기술의 보안 함안을 다루고 있습니다. 주요 LLM인 OpenAI의 ChatGPT는 영업 및 고객 서비스 등 다양한 서비스에 침투하여 잠재적 취약점을 해결할 필요성을 강화했습니다. 미국과 캐나다도 해커들이 AI 시스템을 악용하는 것에 대해 우려를 표명하며, 이러한 위협에 대항하기 위한 집단적 노력의 필요성을 강조했습니다.
기업 환경에서 AI 도구의 역할
로이터/입소스 여론조사의 최근 조사 결과에 따르면, 다양한 산업의 직원들이 ChatGPT와 같은 AI 도구를 일상 업무에 점점 더 많이 통합하고 있습니다. 이러한 도구는 이메일 초안 작성, 문서 요약, 초기 조사 등을 지원합니다. 그러나 이 조사는 AI 도구 사용에 대한 기업의 정책 반응이 다양함을 보여줍니다. 일부 응답자는 외부 AI 도구 사용에 대한 명확한 금지 조치를 보고한 반면, 상당수는 자사의 입장을 불확실하게 여겼습니다. 이러한 불확실성은 AI 기술 도입과 관련하여 더 명확한 지침과 가이드라인에 대한 수요를 강조합니다.
전문가의 통찰과 주의 사항
보안 기업 RiverSafe의 최고기술책임자(CTO)인 Oseloka Obiora는 강력한 보안 평가 없이 성급하게 AI를 통합하는 것에 대해 엄중한 경고를 제기합니다. Obiora는 최첨단 AI 트렌드의 매력이 위험과 보상을 평가하는 중요성을 가려서는 안 된다고 강조합니다. 그는 잠재적 위협으로부터 기업을 보호하기 위한 사이버 보안 조치 구현을 포함하는 포괄적인 전략을 옹호합니다. 그의 관점은 기업이 진화하는 AI 기술의 영역을 탐색함에 있어 정보에 기반한 의사결정의 중요성을 강화합니다.
NCSC의 권고는 AI 채팅봇이 상당한 비즈니스 잠재력을 지니고 있지만, 신중한 고려가 필요한 보안 취약점도 도입한다는 시의적절한 경고입니다. 기업은 AI 기반 효율성의 장점과 악의적 조작의 위험을 저울질해야 합니다. 전 세계 기업 환경이 AI 도구를 점점 더 수용함에 따라, 강력한 사이버 보안 조치와 정보에 기반한 구현의 필요성은 더욱 명확해집니다. AI의 혜택을 활용하기 위한 여정은 분명히 흥미롭지만, 보안과 안정성을 최우선으로 하는 신중한 접근 방식으로 진행되어야 합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
브렌다 카나나
브렌다는 4 년 이상의 경험을 바탕으로 암호화폐, 인공지능 및 신기술 분야를 전문으로 합니다. 그녀는 Zycrypto, Blockchain Reporter, The Coin Republic 에서 근무했으며, 현재는 Cryptopolitan 에서 활동하고 있습니다. 몬바사 공과대학교에서 사회학 학위를 취득한 그녀는 독자들의 니즈를 항상 파악하고 있습니다.
