UNESCO, 생성형 AI가 홀로코스트 기억을 왜곡할까 우려

UNESCO는 생성형 AI가 윤리 기준을 적용하지 않을 경우 홀로코스트 역사를 왜곡할 수 있다고 우려를 표명했습니다. 월요일 발표된 보고서에서 UNICEF는 악의적 행위자들이 생성형 AI를 오용할 가능성에 대해 경고했습니다.

또한 읽기: BIS, 중앙은행들의 AI 대응 강화 촉구

UNESCO 보고서는 악의적 행위자들이 이 기술을 사용하여 홀로코스트에 대한 허위 정보, 오보 및 오해의 소지가 있는 콘텐츠를 유포할 수 있다고 경고합니다.

젊은 세대는 잘못된 정보에 취약합니다

세계 유대인 의회(World Jewish Congress)와 공동으로 출판된 보고서는 젊은 사람들이 AI와 같은 신기술에 대한 높은 노출로 인해 왜곡된 정보를 받을 위험이 더 크다고 경고합니다.

이러한 우려는 10세에서 24세 사이의 젊은이들 중 80%가 학교 과제 등 다양한 목적으로 AI를 사용하며, 이로 인해 왜곡된 정보에 접근할 가능성이 높아진다는 보고서가 나온 시점과 맞물립니다.

“우리가 AI의 무책임한 사용으로 인해 홀로코스트의 끔찍한 사실들이 희석되거나, 왜곡되거나, 조작되는 것을 허용한다면, 반유대주의의 폭발적 확산과 이러한 잔혹행위의 원인과 결과에 대한 우리의 이해가 점진적으로 약화될 위험이 있습니다.”

UNESCO 사무총장 오데르 아줄라이.

보고서는 또한 AI가 “복잡한 역사를 지나치게 단순화하고, 제한된 범위의 출처와 소수의 사건들을 우선시하는 경향이 강하다”고 강조합니다. 예를 들어, AI 기반 검색 엔진의 상위 이미지 결과 중 약 60%에서 80%는 아우슈비츠-비르케나우라는 하나의 홀로코스트 현장만 보여줍니다.

UNESCO, 윤리 기준 시행을 위한 행동 촉구

보고서는 AI가 기존 편견을 영속화할 수 있으며 홀로코스트도 이러한 AI 편견에서 자유롭지 않을 것이라고 주장합니다. 이미 유네스코(UNESCO)에 따르면 홀로코스트에 대한 허위 정보가 만연해 있으며, 생성형 AI 사용으로 인해 악화될 수 있습니다.

또한 읽기: 치열한 AI 경쟁 속에서 메타 AI, 인도 시장 진출

아줄라이 사무총장은 젊은 세대를 왜곡된 정보로부터 보호하기 위해 윤리 기준을 시행하는 것의 중요성을 강조했습니다.

“젊은 세대가 허구가 아닌 사실과 함께 자라날 수 있도록 UNESCO의 AI 윤리 권고를 시급히 이행해야 합니다.”

아줄라이.

보고서는 OpenAI의 ChatGPT와 Google의 Bard(현재 Gemini)와 같은 AI 모델들이 홀로코스트에 대해 환각(hallucination)을 일으켜 실제로 발생하지 않은 사건들을 상세히 묘사했다고 지적합니다. UNESCO에 따르면, 이러한 모델들은 “나치가 유대인들을 강과 호수에 가라앉혔다는 캠페인을 drowning campaigns라는 개념으로 왜곡하여 홀로코스트 개념을 조작했다”고 합니다.

AI 모델은 이러한 왜곡된 내러티브를 지지하기 위해 가짜 인용문을 생성하기도 했습니다. 이러한 사건들을 고려할 때, 유네스코는 이 문제에 대응하기 위한 다자간 접근 방식을 촉구했습니다. 하나의 해결책은 2021년 회원국들이 채택한 AI 윤리에 관한 권고안의 신속한 시행입니다.

유네스코는 또한 기술 기업들이 공정성, 투명성, 인권 및 실사 원칙을 존중할 것을 촉구했습니다. 8개 기술 기업은 2월 유네스코 사무총장에게 AI 모델 개발에 윤리적 접근 방식을 적용하기로 약속하는 데 서명했습니다.

Enacy Mapakame 가 Cryptopolitan 에서 보도