범죄의 미래를 형성하는 데 있어 AI의 변혁적 잠재력

범죄의 미래에 대한 AI의 영향을 과소평가할 수 없습니다. 법 집행 기관과 입법자들은 급속히 발전하는 AI 기술과 범죄 활동 사이의 복잡한 상호작용에 직면해 있으며, 포괄적인 규제와 보호 장치의 필요성에 대한 논의를 촉발시키고 있습니다. 디지털 시대를 헤쳐 나가는 세계는 인공 지능(AI)의 부상이 사회의 다양한 측면을 혁신하는 동시에 전례 없는 도전을 제기하는 양날의 검과 같은 존재임을 보여줍니다. 이러한 도전에는 테러 공격, 사칭 사기, 또는 딥페이크 협박 플롯 등이 포함될 수 있습니다.

AI의 우려스러운 잠재력

AI 기반 챗봇의 등장은 온라인 극단주의의 지형을 빠르게 재편하고 있습니다. Jonathan Hall KC는 정부의 테러 입법 독립 검토자로서, 인터넷 위협을 다루기 위해 설계된 온라인 안전법(Online Safety Bill)이 AI가 생성한 테러 콘텐츠를 다루는 데 어려움을 겪을 것이라고 경고합니다. Hall은 알려진 자료 데이터베이스에 의존하는 것이 AI 챗봇이 생성하는 새로운 형태의 담론을 포착하기에 충분하지 않을 것이라고 경고합니다. 그는 AI가 생성한 극단주의 콘텐츠가 통제 없이 확산되지 않도록 하기 위해 엄격한 보호 장치와 집행 메커니즘의 필요성을 강조합니다.

AI의 사칭 능력은 범죄자들이 점점 더 정교한 사기에 활용하고 있습니다. Jennifer DeStefano의 사례는 AI가 그녀의 딸의 목소리를 모방하여 거액의 몸값을 요구하는 납치 사기를 가능하게 했음을 보여줍니다. UCL의 Dawes 미래 범죄 센터의 Lewis Griffin 교수는 오디오/비주얼 사칭 분야에서 AI의 빠른 진전을 강조하며, 실시간 응용 프로그램이 현실에 한 발짝 더 다가오고 있다고 지적합니다. AI가 생성한 도움 요청이나 몸값 요구를 통한 감정적 조작의 잠재력은 이러한 사기의 미래에 대해 경각심을 불러일으킵니다.

딥페이크 기술의 확산은 조작된 이미지와 비디오에 기반한 협박 플롯의 공포를 불러일으킵니다. Griffin 교수는 누군가가 허구적인 행동을 하는 것을 설득력 있게 묘사하는 능력이 지속적으로 개선되고 있다고 주장합니다. 그는 범죄자들이 딥페이크를 활용하여 허구적이고 곤란한 상황을 노출시키겠다고 위협함으로써 피해자를 협박하는 시나리오를 상상합니다. 이러한 전술은 피해자에게 심각한 정서적 고통과 금전적 손해를 입힐 수 있으며, 이는 AI 기반 협박에 대한 강력한 대응책의 필요성을 강조합니다.

테러범들이 자율무기 시스템을 보유하고 있는 것은 아직 먼 미래의 가능성이지만, AI의 언어 처리 능력은 이미 악의적인 목적으로 활용되고 있습니다. 드론과 무인 차량이 공격에 사용될 수는 있지만, 테러 무기의 진정한 자율성은 여전히 비현실적으로 보입니다. 테러 입법의 독립 검토가인 정부는 규제되지 않은 챗봇 모델을 통한 급진화 노력 등 언어 기반 전술에 대한 AI의 영향력이 시급하다고 인정합니다.

입법적 대응과 과제

AI 생성 범죄의 진화하는 양상을 다루기 위해서는 혁신적인 입법적 대응이 필요합니다. 야당 내각의 홈시크릿리(내무장관) 역임자 이벳 쿠퍼는 취약한 개인을 급진화시키기 위해 챗봇을 의도적으로 훈련하는 행위를 범죄로 규정할 것을 제안합니다. 기존 법률은 AI에 적응된 테러 정보의 소지를 다루고 있지만, AI 기반 극단주의의 미묘한 차이를 다루기 위해 새로운 입법이 필요할 수 있습니다. 과제는 AI 기술에 의해 점점 더 형성되는 환경에서 책임 소재와 소지 기준을 결정하는 데 있습니다.

AI의 변혁적 잠재력은 기존 범죄 패러다임을 넘어섭니다. ChatGPT와 같은 대규모 언어 모델은 금융 사기, 시장 조작, 서비스 거부 공격을 포함한 다양한 사기 활동을 가능하게 할 수 있습니다. 그리핀 교수는 AI 기반 시스템이 사기성 대출 신청, 해킹, 원격 감시 등의 작업을 수행하는 미래를 상상합니다. 그는 AI가 전통적이고 물리적인 범죄에 미치는 영향은 제한적일 것이라고 주장합니다.

정부의 입장과 주의

AI의 혜택과 위험을 모두 인정하며, 정부는 접근 방식에서 신중함을 유지하기로 약속했습니다. 온라인 안전법(Online Safety Bill)은 AI 생성 위협을 포함한 불법 콘텐츠와 싸우기 위해 기술 서비스에 의무를 부과합니다. 정부 대변인은 AI를 포함한新興 기술에 대한 법의 적응성을 강조하며, AI 태스크포스 구성과 다가오는 AI 안전 정상회의와 같은 지속적인 노력은 잠재적 위험을 이해하고 완화하려는 정부의 의지를 강조합니다.

AI가 사회를 계속 변화시키면서, 범죄의 지형을 재편할 잠재력 또한 지대합니다. 발전이 범죄자들에게 새로운 도구를 제공하는 반면, 입법자, 법 집행 기관, 그리고 사회 전체가 경계심을 유지하도록 도전하기도 합니다. AI의 능력을 활용하고 오용으로부터 보호하는 사이의 미묘한 균형을 맞추는 것은 AI 기반 범죄의 복잡한 지형을 헤쳐 나가는 세계에게 시급한 과제입니다.