소셜 미디어 감시를 위한 정부의 AI 사용에 대한 우려

최근 몇 년간 정부 운영의 다양한 측면에서 인공 지능(AI)을 사용하는 것이 더 흔해졌습니다. 그러나 이는 프라이버시, 책임, 공정성에 대한 상당한 논쟁을 불러일으켰습니다. 미국 이민세관단속국(ICE)이 비자 신청자의 소셜 미디어 활동을 모니터링하기 위해 AI를 사용하는 것에 대한 최근 폭로는 '리스크'로 간주되는 사람을 결정하는 데 있어 알고리즘의 역할에 대한 새로운 논의를 촉발시켰습니다. 

AI 기반 도구: 자이언트 오크 검색 기술(GOST)

정보자유법(FOIA) 조치를 통해 입수된 문서에 따르면, ICE는 2014년부터 자이언트 오크 검색 기술(Giant Oak Search Technology, GOST)이라는 AI 기반 도구를 사용해 왔습니다. GOST는 비자 신청자의 소셜 미디어 게시물을 스캔하여 1에서 100 사이의 '소셜 미디어 점수'를 부여하도록 설계되었습니다. 이 점수는 게시물이 미국에 대해 '비방적인지' 여부에 따라 결정됩니다. 신청자의 점수가 우려를 불러일으키면, ICE 분석관은 플래그가 지정된 이미지와 프로필을 검토하여 잠재적 위험이 되는지 평가할 수 있습니다.

수백만 달러의 투자

이 AI 감시 프로그램의 범위는 상당하며, ICE는 2017년 이후 자이언트 오크에 기술 사용료를 위해 1,000만 달러 이상을 지불한 것으로 보고되었습니다. 또한, 자이언트 오크의 영향력은 ICE를 넘어선다. 이 회사는 마약단속국(DEA), 공군, 국무부, 재무부 등 다른 정부 기관과도 계약을 맺고 있습니다. 다양한 정부 기관에서 이러한 기술이 광범위하게 사용됨에 따라 프라이버시 옹호자들은 시민 자유에 대한 함의를 의문시하고 있습니다.

프라이버시 옹호자들이 경보를 울리다

프라이버시 옹호자들은 AI 알고리즘을 활용해 소셜 미디어 콘텐츠를 검열하는 것이 심각한 문제를 제기한다고 주장합니다. 미국시민자유연맹 (ACLU) 의 국가안보 프로젝트 부국장인 패트릭 투미는

소셜 미디어 감시의 기원

논의 중인 소셜 미디어 감시 프로그램은 2016년 비자 초과 체류자를 주로 대상으로 한 시범 프로그램으로 시작되었습니다. 동시에 2016년 트럼프 행정부는 비자 신청자가 심사 과정의 일환으로 과거 5년간의 소셜 미디어 이력을 제공해야 한다는 규정을 시행했습니다. 이러한 조치는 국가 안보를 강화하려는 시도에서 도입되었으나, 이후 논란의 대상이 되었습니다.

차별의 위험

전문가들은 이러한 AI 기반 관행이 우연히 차별을 초래할 수 있다고 우려합니다. 자동화 시스템은 특정 국가나 배경을 가진 신청자들을 불균형하게 표적으로 삼아 부당한 결과를 초래할 가능성이 있다고 주장합니다. 2019년 하버드 대학생이 친구들의 소셜 미디어 활동으로 인해 미국 입국이 거부된 사례는 이러한 의도치 않은 결과의 가능성을 잘 보여줍니다.

이민 단속에서 AI의 미래

ICE와 Giant Oak 간의 계약이 2022년에 종료된 것으로 알려졌지만, 신청자의 소셜 미디어 콘텐츠를 평가하기 위해 AI를 사용하는 광범위한 문제는 여전히 우려의 대상입니다. 오용을 방지하고 시민의 자유를 보호하기 위한 더 많은 감독과 규제의 필요성이 명확합니다. 이러한 관행의 영향은 이민 단속을 넘어 디지털 시대의 안보와 개인 사생활 보호 사이의 균형을 어떻게 맞출 것인가에 대한 근본적인 질문을 제기합니다.

비자 신청 맥락에서 소셜 미디어 콘텐츠를 모니터링하고 평가하기 위해 AI 알고리즘을 사용하는 것은 정부가 누구를 잠재적 위험으로 간주할지 결정하는 데 있어 정부의 역할에 대한 논쟁을 불러일으켰습니다. 프라이버시 옹호자들은 이러한 관행이 중대한 시민의 자유 문제를 제기한다고 주장하며, 전문가들은 국적이나 배경에 기반한 차별의 위험을 경고합니다. 기술이 계속 발전함에 따라 국가 안보와 개인 사생활 권리 보호 사이의 균형을 맞추는 것이 점점 더 중요해지고 있습니다. ICE가 사용하는 GOST의 사례는 AI 기반 감시 시대에 앞당겨질 과제와 질문들을 stark하게 상기시켜 줍니다.