AI는 허위 정보의 증폭기가 될 수 있다, 애리조나 주 국무장관 발언

애리조나주 국무장관 아드리안 폰테스(Adrian Fontes)는 다가오는 미국 선거 전에 인공지능(AI)이 허위 정보의 “확대기”가 될 수 있다고 밝혔습니다. 폰테스는 그의 우려를 표명했습니다. 일요일 NBC의 ‘미트 더 프레스(Meet the Press)’에서.

폰테스의 발언은 바이든 대통령이 X(구 트위터)에 올린 글 “AI와 이 기술을 개발하는 기업들은 세상을 변화시킬 것입니다.” 이후 나왔습니다. b하지만 먼저 그들은 우리의 신뢰를 얻어야 합니다.” 대통령은 자신이 안전하고 책임감 있는 혁신을 촉진하기 위해 할 수 있는 모든 일을 하겠다는 의지를 가지고 있다고 말했습니다. 그는 기업들이 그 약속에 동참할 것을 촉구했습니다.

AI 허위 정보는 확대기입니다

폰테스는 해병대 시절 훈련을 회상했습니다. 그는 부트 캠프 및 기타 군사 훈련에서 적의 무기를 평가해야 했다고 말했습니다. 그는 적의 무기에 대비해 가능한 한 많이 훈련해야 했다고 덧붙였습니다.

또한 읽기: 마이크로소프트, 다가오는 선거에서 AI 기반 허위 정보 캠페인 경고

국무장관은 AI를 무기에 비유하며, AI는 무기가 아니라 오보와 허위 정보의 확대기이자 증폭기라고 말했습니다. 

“제가 하고 싶었던 것은 선거 관리관들이 이를 잘 이해하고, 각 카운티 내에서 이를 처리하고 대응할 수 있는 절차를 갖추도록 하는 것이었습니다. 우리의 선거는 카운티 단위로 운영되기 때문입니다.”

아드리안 폰테스

“또한 여러 선거 관리관과 미디어를 대상으로 테이블탑 연습을 진행했습니다. 이를 통해 미디어 파트너들이 이에 어떻게 대응하고 인식해야 하는지 알 수 있도록 했습니다.”라고 그는 덧붙였습니다.

AI가 유일한 요소는 아니었습니다. 국무장관은 국내 테러를 언급하면서 “테러는 정치적 결과를 위한 위협이나 폭력으로 정의됩니다. 이것이 바로 그것입니다.”라고 말했습니다.

‘가짜’ 조 바이든 전화, AI 허위 정보 입증

선거에 대한 잠재적 AI 위협은 새로운 것이 아닙니다. 올해 1월 초, 미국 대통령 조 바이든의 목소리를 모방한 가짜 로보콜은 TV 프로그램과 뉴스 기사에서 뜨거운 논쟁거리였습니다. 이 가전화는 바이든이 이전에 사용했던 표현인 “What a bunch of malarkey(말도 안 되는 소리)”로 시작하는 등 신중하게 설계되었습니다. 

이런 개성 있는 도입부 이후, 전화는 계속 이어졌습니다.

“화요일의 투표를 허용하는 것은 공화당이 도널드 트럼프를 다시 당선시키려는 노력에 힘을 실어주는 것입니다. 당신의 표는 이번 화요일이 아니라 11월에 중요합니다.”

이는 특정 날 유권자들이 투표소에 가는 것을 막으려는 명확한 시도였습니다. 이 로보콜은 정치 컨설턴트 스티븐 크레이머(Steven Kramer)가 600만 달러의 벌금과 총 24개의 형사 기소를 받으면서 이틀 전 다시 화제가 되었습니다.

연방통신위원회(FCC)는 크레이머에게 부과된 벌금이 생성형 AI 관련 범죄에 대한 첫 번째 벌금이라고 말했습니다. 위원회는 또한 로보콜 전송 혐의로 기소된 링고 텔레콤(Lingo Telecom)에 200만 달러의 벌금을 제안했습니다.

링고 텔레콤은 이러한 통화 제작에 관여하지 않았다고 주장하며, 자신의 조치는 업계 표준과 연방 규정에 부합한다고 밝혔습니다. 그러나 우려스러운 점은 이 통화들이 전 주 민주당 당위원장인 캐시 설리번(Kathy Sullivan)의 개인 번호에서発信되었다는 것입니다. 

설리번은 목요일 이메일에서 “선거를 조작하려는 시도는 높은 대가를 치르게 됩니다.” 라고 썼다고 AP 통신이 보도했습니다.

허위 정보 캠페인은 더 저렴해졌습니다

AI는 사기를 저지르고자 하는 사람들에게 사기를 더 저렴하고 저렴하게 만들었습니다. 투표 참여 프로젝트를 전문으로 하는 회사를 소유한 크레이머는 “AI 문제”에 대한 유권자의 주의를 끌기 위해 전화를 보내는 데 500달러를 지불했다고 말했습니다. 그는 이전에 AP에 녹음 제작을 위해 마술사에게 150달러를 지불했다고 말했습니다.

또한 읽기: 워런 버핏, AI 사기가 성장 산업이 될 것이라고 경고

와이어드는 작년 AI 기반 허위 정보 캠페인 구축 비용이 단 400달러에 불과하다고 보도했습니다. 이 매체는 일반적인 AI 도구를 사용해 반러시아 성향의 트윗과 기사를 생성한 개발자를 소개했지만, 해당 프로젝트는 이러한 행위가 얼마나 저렴하고 쉽게 이루어질 수 있는지 강조하는 것을 목표로 했습니다.

뉴스 매체에 따르면, ‘Nea Paw’라는 이름의 사람이 이 캠페인을 설계하여 사람들에게 AI의 위험성과 허위 정보에 대해 교육하는 것을 목표로 했습니다. Paw는 이메일에서 다음과 같이 말했습니다.

“이 문제에 대한 만병통치약은 없다고 생각합니다. 피싱 공격, 스팸, 또는 사회공학적 기법에 대한 만병통치약이 없는 것과 마찬가지입니다.”

허위 정보 연구자들은 AI가 허위 정보를 부양하고 소셜 미디어 계정을 운영하는 데 사용될 수 있는 매우 개인화된 캠페인을 제작하는 데 사용될 수 있다고 말합니다. 주목할 점은 페이스북과 인스타그램이 최근 중국 공산당의 통신 메커니즘과 관련이 있는 것으로 간주되는 네트워크와 어떤 식으로든 연결된 수천 개의 계정을 차단했다는 것입니다.

연구자들은 가짜 계정들이 이제 더 정교한 방법을 사용하여 허위 정보 캠페인을 실행하고 있으며, 이는 유기적인 방법을 사용하여 도달 범위를 늘리고 진정성을 갖추려는 시도라고 말합니다. 전설적인 투자자 워런 버핏의 말을 잊지 마십시오. 그는 AI 사기가 “역사상 가장 빠르게 성장하는 산업”이 될 수 있다고 말했습니다. 

사기와 선거 허위 정보는 둘 다 사람들을 기만하는 데 사용된다는 점에서 연결됩니다. 버핏이 말했듯이 “이것은 선을 위한 막대한 잠재력과 해를 끼칠 막대한 잠재력을 모두 가지고 있으며, 어떻게 전개될지는 저도 잘 모릅니다.”

Aamir Sheikh가 Cryptopolitan에서 보도