AI 생성 허위 정보는 2024선거를 위협합니다

빠른 기술 발전의 시대에 AI 기술의 어두운 측면은 거버넌스에 대한 심각한 우려를 불러일으켰습니다. 2024년 총선이 다가오면서 생생한 가짜 사진, 오디오 클립, 영화의 광범위한 사용으로 인해 정치 과정의 무결성에 대한 우려가 제기되고 있습니다.

뉴햄프셔 주 예비선거 전, 조 바이든 대통령을 사칭한 로보콜이 유권자들에게 투표 참여를 자제하라고 촉구하는 disturbing한 사건이 발생했습니다. 이 기만적인 메시지는 유권자들의 두려움을 자극하며, 다가오는 11월 선거에서 그들의 투표가 더 큰 의미를 가진다고 주장했습니다. 이러한 조작적 전술의 기원과 범위는 명확하지 않습니다. 이러한 전화는 구매된 전화번호 목록을 통해 쉽게 유포될 수 있기 때문입니다.

이 사건과 딥페이크 기술의 급증은 전국 선거 관리관들에게 경종을 울렸습니다. AI와 기타 기술이 제기하는 위협을 인지한 네바다주 상원의원 캐서린 코르테즈 마스토는 선거 맥락에서 허위 정보의 확산을 퇴치하기 위한 긴급성을 강조합니다. KOLO 8 News Now와의 성명에서 그녀는 emerging AI 및 기술 산업의 책임 있는 성장을 위한 필요성을 강조합니다.

규제 공백과 빅테크의 영향력

점점 커지는 우려에도 불구하고, 현재 상황은 정치적 맥락에서 AI의 오용을 다루기 위한 연방 규제가 부재합니다. 제안들이 진행 중이지만, 갈 라트너(Gal Ratner)와 같은 엔지니어들은 인터넷 전체를 규제하는 것에 반대합니다. 라트너는 문제가 기술이 아니라 그 힘을 행사하는 사람에게 있다고 주장합니다. 규제될 경우 영향력 있는 빅테크 로비스트들이 규제를 자신들에게 유리하게 형성할 수 있다는 우려가 제기됩니다. 메타의 수석 AI 임원은 최근 구글이 글로벌 규제를 영향력 있게 만들기 위해 광범위한 기업 로비 활동을 했다고 비난했습니다.

즉각적인 규제가 부재한 가운데, 라트너는 대중이 휴대폰을 잠재적 무기로 취급하지 않도록 경고합니다. 그는 문제의 근원이 AI가 아니라 교육의 부재라고 주장합니다. 라트너에 따르면, 인터넷이 가져온 투명성은 기존에 존재하던 간첩 활동과 허위 정보 문제를 증폭시켰으며, 개인이 디지털 콘텐츠의 진위를 판별하는 것이 필수적입니다.

AI의 요정이 병 밖으로 나온 이상, 2024년 선거 전에 어떤 규제 조치도 실현되지 않을 수 있습니다. 라트너는 AI 생성 허위 정보의 도전에 대응하기 위해 구식 접근 방식을 채택할 것을 제안합니다. 여기에는 이미지의 기원을 추적하기 위해 역방향 이미지 검색을 사용하고, 콘텐츠 출처의 정당성을 검증하며, 콘텐츠에 관련된 개인에게 연락하여 간단한 스토리 검증을 수행하는 것이 포함됩니다.

라트너의 관점에서 AI는 주요 우려 사항이 아닙니다. 그는 디지털 기만주의의 시대를 헤쳐 나가기 위해 개인을 준비시키는 교육의 중요성을 강조합니다. 그는 오늘날의 세상에서 보고 듣고 있는 모든 것이 조작의 대상이 될 수 있음을 상기시키며 heightened 경계심을 필요로 한다고 강조합니다.

AI의 지뢰밭을 헤쳐 나가기

AI 생성 허위 정보의 그림자가 드리우는 가운데, 2024년 선거는 전례 없는 도전에 직면해 있습니다. 뉴햄프셔의 사건은 기술을 이용해 여론을 조작할 수 있는 잠재력에 대한 stark한 경고입니다. 즉각적인 연방 규제가 없는 가운데, 책임은 개인에게 있으며, 이 AI 지뢰밭을 헤쳐 나가기 위해 경계심 있고 식별력 있는 접근 방식을 취해야 합니다.

점점 더 희미해지는 진정성의 세상에서, 구식 사고방식의 요구가 두드러집니다. 대중은 콘텐츠 출처 검증부터 디지털 콘텐츠에 대한 회의적 태도 수용까지, 능동적인 조치를 취할 것을 촉구받습니다. 기술이 발전함에 따라 AI 생성 허위 정보와의 싸움은 민주주의의 기반을 보호하기 위한 집단적 노력이 됩니다.