- 생성형 AI의 발전은 선거 무결성에 위험을 초래하며, 가짜 이미지가 여론을 좌우할 가능성이 있습니다.
- 정치적 맥락에서 AI 오용을 억제하는 규제를 마련하기 위해서는 이해관계자 간의 협력이 필수적입니다.
- 정부는 AI 기반 조작을 완화하고 선거 무결성을 보호하기 위한 노력을 주도해야 합니다.
생성형 AI 끊임없이 진화하는 기술 환경에서 생성형 인공지능(AI)의 발전은 현실과 조작의 경계를 점점 더 모호하게 만들고 있습니다. 오픈텍 사이버보안의 수석 솔루션 컨설턴트인 맷 올드리지(Matt Aldridge)는 이러한 기능이 호러 영화를 연상시키는 시나리오로 이어질 수 있다고 경고합니다. Capacity와의 인터뷰에서 올드리지는 사용자가 진정성 있는 미디어와 AI 생성 조작물을 구분할 수 있도록 콘텐츠 제작에 대한 투명한 기준의 시급한 필요성을 강조합니다.
생성형 AI는 양날의 검
생성형 AI 기술의 빠른 진보는 방대한 가능성을 열었지만 상당한 도전 과제도 도입했습니다. 오픈AI와 마이크로소프트 등의 도구를 사용하여 선거와 같은 중요한 행사에서 여론을 좌우할 수 있는 설득력 있는 가짜 이미지를 제작하는 것이 가능해졌습니다.
디지털 혐오 중재 센터(CCDH)의 최근 보고서는 정치 영역에서 AI 생성 콘텐츠가 제기할 잠재적 위협을 강조합니다. 생성형 AI 도구를 사용하여 이 비영리 단체는 병원 침대에 누워 있는 조 바이든 미국 대통령과 투표 기계를 파괴하는 선거 관리관들을 묘사한 이미지를 생성했습니다. 이러한 가짜 이미지들은 허위 정보의 확산과 선거 무결성 훼손에 대한 우려를 제기합니다.
CCDH 연구원들에 따르면, AI 생성 이미지를 '사진 증거'로 유포하면 허위 주장의 확산을 증폭시켜 11월 미국 대통령 선거를 포함한 선거 무결성 보호에 상당한 도전을 제기할 수 있습니다.
규제 및 협력의 시급한 필요성
맷 올드리지는 정치적 설득의 맥락에서 AI 기술의 오용을 해결하기 위한 선제적 조치의 중요성을 강조합니다. 영국과 미국 선거가 임박한 가운데, 그는 딥페이크와 오해의 소지가 있는 이미지의 생성 및 유포를 억제할 필요성을 강조합니다.
올드리지는 기술 혁신가, 정부, 사이버보안 전문가가 참여하는 협력적 노력을 통해 책임성을 강화하는 강력한 규제 프레임워크를 개발할 것을 촉구합니다. 그는 AI에 의해 부추겨지는 허위 정보, 혐오 캠페인 및 영향력 전술을 식별하는 것에 대한 사회 교육이 이러한 위협에 효과적으로 대응하기 위해 가장 중요하다고 강조합니다.
AI 기반 조작과 관련된 위험이 증가함에 따라 올드리지는 전 세계 정부들이 이러한 도전에 대응하기 위해 리더십 역할을 수행해야 한다고 주장합니다. 포괄적인 규제를 수립하고 이해관계자 간의 협력을 장려함으로써 정부는 생성형 AI 기술의 오용이 초래할 잠재적 피해를 완화할 수 있습니다.
첨단 기술과 정치 환경의 수렴은 기회와 위험을 모두 제시합니다. 생성형 AI는 혁신과 창의성에 대한 희망을 담고 있지만, 그 오용은 특히 선거와 같은 중요한 영역에서 사회에 해를 끼칠 수 있습니다. 이러한 위협으로부터 보호하기 위해서는 투명한 기준을 구현하고 대중을 교육하며 책임 있는 AI 사용을 촉진하는 규제 조치를 시행하기 위한 concerted 노력이 필요합니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
존 팰머
John Murangiri는 시장 분석 기술을 갖춘 채 Cryptopolitan에 합류했습니다. John(별명 JP)은 나이로비 대학교에서 대중 매체 및 미디어 연구 학사 학위를 취득했으며, 이전에는 InsideBitcoins.com과 Metacoingraph에 암호화폐 시장 인사이트를 기여한 바 있습니다.
