생성형 인공지능(Gen AI)의 글로벌 영향력 대응

광범위하게 활용되는 트랜스포머 아키텍처로 대표되는 생성형 인공지능(Gen AI)의 급속한 등장과 변혁적 힘은 디지털 환경을 크게 변화시켰습니다. OpenAI의 ChatGPT와 같은 도구는 최첨단 AI 기능에 대한 접근을 민주화하여, 최소한의 인프라나 사전 경험으로도 다양한 매체에서 고품질 콘텐츠를 생성할 수 있도록 했습니다. Gen AI는 수많은 혜택을 제공하지만, 그 분포와 영향은 전 세계적으로 균일하지 않으며, 일부 국가가 다른 국가보다 더 많은 혜택을 누리고 있습니다.

저자원 국가의 위험

Gen AI 시스템의 혜택은 주로 영어와 같은 고자원 언어를 사용하는 국가에 집중되어, 저자원 국가들은 불리함을 겪고 있습니다. 이러한 접근성과 영향력의 격차는 폭력적인 갈등과 불안정이 역사가 된 국가들에서 더욱 두드러지며, 이러한 국가들은 위험이 중요한 곳으로 분류됩니다. 이러한 지역에서는 Gen AI와 관련된 잠재적 위험이 악화됩니다.

허위 정보와 선동 정보

특히 미디어 환경이 덜 규제된 국가들에서 Gen AI의 확산은 허위 정보와 선동 정보의 확산에 대한 우려를 불러일으켰습니다. 위험이 중요한 국가의 악의적 행위자들은 소셜 미디어 플랫폼에서 관찰된 것과 유사하게 Gen AI의 기능을 활용하여 여론을 조작할 수 있습니다. 진실을 찾는 것이 점점 더 어려워지는 상황에서 그 결과는 치명적일 수 있습니다.

합성 미디어와 딥페이크

딥페이크를 포함한 합성 미디어의 전략적 사용은 위험이 중요한 국가에서 상당한 위협을 제기합니다. 제한된 미디어 통제 하에서 딥페이크의 확산을 막는 것은 Gen AI의 사용으로 인해 더욱 악화되는 고된 싸움이 됩니다. 최근 이스라엘-하마스 분쟁과 같은 사건들은 Gen AI가 확립된 미디어 생태계를 갖춘 국가들에서도 새로운 위험을 도입함을 보여줍니다.

성별 기반 괴롭힘

순결이 매우 중요시되는 사회에서 성별 기반 괴롭힘은 여성과 소녀들을 표적으로 삼는 흔한 수단입니다. Gen AI는 가해자들이 해로운 콘텐츠를 생성하고 유포하는 것을 더 쉽게 만들어 이 문제를 증폭시킵니다. 이러한 사례들의 현실적 영향은 개인들에게 실질적인 해를 끼칠 수 있을 정도로 큽니다.

데이터 편향

AI 모델 내의 편향은 잘 문서화된 문제입니다. 저자원 국가에서는 컨텍스트 전문가에 대한 접근 없이 편향을 식별하고 수정하는 것이 어렵습니다. 결과적으로 위험이 중요한 시장은 Gen AI 개발자로부터 더 긴 대응 시간을 겪으며, 편향의 부정적 결과에 더 취약해집니다.

완화를 위한 권장 사항

이러한 위험을 해결하는 것은 Gen AI의 책임 있는 사용과 특히 위험이 중요한 국가에서 그 부정적 결과를 완화하기 위해 필수적입니다. 다음 권장 사항들은 이 방향으로의 필수적인 단계입니다.

다양한 평가 팀

Gen AI 모델은 다양한 전문가 팀에 의해 내부 및 외부 평가를 받아야 합니다. 외부 전문가가 Gen AI 모델의 위험을 평가하는 프로세스인 레드 팀링은 보상이나 거주지에 따른 제한 없이 다양한 지리적 위치의 참가자에게 개방되어야 합니다. 이는 지속적인 위험을 효과적으로 식별하고 해결하는 데 도움이 될 것입니다.

콘텐츠 속성과 안전 가드레일

선동 정보를 퇴치하기 위해 Gen AI가 생성한 콘텐츠는 AI 출처를 나타내는 워터마크로 명확히 표시되어야 합니다. 훈련 데이터의 편향 평가, 그래픽 훈련 데이터에 대한 제한, 성적인 콘텐츠 생성 금지 정책과 같은 안전 가드레일이 우선시되어야 합니다. 콘텐츠 정책을 구현할 때는 문화적 특수성과 컨텍스트 전문가의 참여가 중요하며, 관련성을 유지하기 위해 지속적으로 업데이트해야 합니다.

다국어 사용자 보고 시스템

대규모 Gen AI 기업들은 위험이 중요한 국가의 언어로 사용자 보고 시스템을 제공해야 합니다. 현재 이러한 보고 시스템의 가용성은 종종 영어에 국한되어 있어, 이러한 국가의 사용자들은 문제와 우려를 해결할 수 있는 수단이 제한적입니다.