애리조나 주 국무장관은 인공지능이 허위 정보 확산의 증폭기가 될 수 있다고 경고했습니다

애리조나 주 국무장관인 에이드리언 폰테스는 인공지능(AI)이 다가오는 미국 대선을 앞두고 허위 정보를 "확대"하는 역할을 할 수 있다고 우려를 표명했습니다. 폰테스 장관은 일요일 NBC의 '밋 더 프레스' 프로그램에 출연해 이같이 밝혔습니다.

이든dent 대통령이 X(구 트위터)에 "인공지능과 이 기술을 개발하는 기업들은 세상을 변화시킬 것이지만, 먼저 우리의 신뢰를 얻어야 한다"고 게시한 직후에 나왔습니다.바 은dent 안전하고 책임감 있는 혁신을 촉진하기 위해 최선을 다하겠다고 밝혔으며, 기업들에게도 이러한 노력에 동참해 줄 것을 촉구했습니다.

AI 기반 허위 정보는 확대경과 같습니다

폰테스는 해병대 훈련 시절을 회상하며, 신병 훈련소와 다른 군사 훈련에서 적의 무기를 분석해야 했다고 말했다. 그는 적의 무기를 상대로 최대한 많은 훈련을 해야 했다고 덧붙였다.

관련 기사: 마이크로소프트, 다가오는 선거에서 AI 기반 허위 정보 유포 캠페인에 대해 경고

국무장관은 인공지능을 무기에 비유하며 인공지능은 무기가 아니라 잘못된 정보와 허위 정보를 확대하고 증폭시키는 도구라고 말했습니다. 

"제가 하고 싶었던 것은 선거 담당자들이 이 문제를 잘 알고, 각 카운티에서 이 문제를 처리하고 해결할 수 있는 절차를 마련하는 것이었습니다. 왜냐하면 우리의 선거는 카운티 단위로도 운영되기 때문입니다."

아드리안 폰테스

그는 또한 "우리는 언론 관계자들이 이러한 상황에 어떻게 대응하고 인식해야 하는지 알 수 있도록 선거 관계자들을 대상으로 여러 차례 모의 훈련을 실시했습니다."라고 덧붙였습니다.

AI만이 문제가 아니었습니다. 국무장관은 국내 테러를 언급하며 "테러는 defi됩니다. 이것이 바로 테러입니다."

조 바이든의 "가짜" 전화 통화는 AI 기반 허위 정보의 존재를 입증한다

인공지능이 선거에 위협이 될 수 있다는 우려는 새로운 것이 아닙니다. 올해 1월 초, 조 바이든 미국dent 의 목소리를 사칭한 가짜 자동 음성 통화가 TV 프로그램과 뉴스 기사에서 큰 화제가 되었습니다. 이 가짜 통화는 바이든이 이전에 사용했던 표현인 "말도 안 되는 헛소리야(What a bunch of malarkey)"로 시작하는 등 매우 정교하게 제작되었습니다. 

이러한 개인적인 언급 이후에도 통화는 계속되었고, 다음과 같이 말했다

"이번 화요일 투표는 공화당이 도널드 트럼프를 다시 당선시키려는 계획을 돕는 것일 뿐입니다. 여러분의 투표는 이번 화요일이 아니라 11월 선거에서 결정적인 역할을 합니다."

이는 특정일에 투표하려는 유권자들을 단념시키려는 명백한 시도였습니다. 이 자동 음성 통화는 이틀 전 정치 컨설턴트인 스티븐 크레이머가 600만 달러의 벌금형과 총 24건의 형사 혐의로 기소되면서 다시 한번 화제가 되었습니다.

연방통신위원회(FCC)는 크레이머에게 부과된 벌금이 인공지능 생성기 관련 범죄에 대한 첫 번째 벌금형이라고 밝혔습니다. 위원회는 또한 자동 음성 통화를 전송한 혐의를 받는 링고 텔레콤에 대해 200만 달러의 벌금을 제안했습니다.

링고 텔레콤은 해당 통화 제작에 관여하지 않았다고 밝혔지만, 취한 조치는 업계 표준 및 연방 규정을 준수한 것이라고 덧붙였습니다. 그러나 우려스러운 점은 해당 통화가 캐시 설리번 전 주 민주당 위원장의 개인 번호로 발신되었다는 것입니다. 

설리번은 목요일 이메일에서 "선거를 조작하려 시도하는 데에는 큰 대가가 따른다" 에 따르면 AP통신.

허위 정보 유포 캠페인은 더욱 저렴해졌습니다

인공지능(AI)은 사기를 치고자 하는 사람들에게 더 저렴하고 손쉬운 방법을 제공했습니다. 투표 독려 프로젝트 전문 회사를 운영하는 크레이머는 유권자들에게 "AI 문제"에 대한 관심을 촉구하는 전화를 거는 데 500달러를 지불했다고 밝혔습니다. 그는 앞서 AP 통신과의 인터뷰에서 마술사에게 녹음 제작을 의뢰하는 데 150달러를 지불했다고 밝힌 바 있습니다.

관련 기사: 워렌 버핏, AI 사기가 성장 산업으로 부상할 것이라고 경고

와이어드(Wired) 보도했습니다 는 작년에 인공지능(AI)을 이용한 허위 정보 유포 캠페인을 구축하는 데 단 400달러밖에 들지 않는다고

해당 언론 보도에 따르면, 네아 파우라는 가명을 사용하는 사람이 인공지능의 위험성과 허위 정보에 대해 사람들을 교육하기 위해 이 캠페인을 기획했다고 합니다. 파우는 이메일을 통해 다음과 같이 밝혔습니다

"피싱 공격, 스팸, 사회공학적 기법에 대한 만능 해결책이 없는 것과 마찬가지로, 이 문제에 대한 만능 해결책은 없다고 생각합니다."

허위정보 연구자들은 인공지능이 고도로 개인화된 캠페인을 통해 허위 정보를 확산시키고 소셜 미디어 계정을 운영하는 데 사용될 수 있다고 말합니다. 주목할 점은 페이스북과 인스타그램이 최근 중국 공산당의 소통 체계와 연관된 네트워크와 관련된 수천 개의 계정을 차단했다는 것입니다.

연구원들은 가짜 계정들이 이제 더욱 정교한 수법을 사용하여 허위 정보 유포 캠페인을 벌이고 있다고 말합니다. 도달 범위를 넓히고 진짜처럼 보이도록 자연스러운 방식을 활용하고 있다는 것입니다. 전설적인 투자자 워렌 버핏이 인공지능 사기가 "역사상 가장 빠르게 성장하는 산업"이 될 수 있다고 말한 것도 빼놓을 수 없습니다 

사기와 선거 관련 허위 정보는 둘 다 사람들을 오도하는 데 사용된다는 점에서 공통점이 있습니다. 버핏의 말처럼, "이러한 행위는 엄청난 선을 행할 가능성도 있고 엄청난 악을 행할 가능성도 있는데, 그 결과가 어떻게 될지는 저도 모르겠습니다."

아미르 셰이크의 Cryptopolitan 보도