유네스코는 인공지능 개발자들이 윤리 기준을 준수하지 않을 경우 생성형 인공지능이 홀로코스트 역사를 왜곡할 수 있다는 우려를 제기했습니다. 월요일에 발표된 보고서에서 UNI재단(UNICEF)은 악의적인 행위자들이 생성형 인공지능을 오용할 가능성에 대해 경고했습니다.
관련 기사: BIS, 중앙은행의 AI 대응 역량 강화 촉구
유네스코 보고서는 악의적인 세력이 이 기술을 이용해 홀로코스트에 대한 허위 정보, 잘못된 정보, 오해를 불러일으키는 콘텐츠를 유포할 수 있다고 경고합니다.
젊은이들은 잘못된 정보에 취약합니다
이 보고서는젊은 세대가 인공지능과 같은 신기술에 많이 노출되어 있기 때문에 왜곡된 정보를 접할 위험이 더 크다고 경고합니다.
이러한 상황은 10세에서 24세 사이의 젊은이들 중 80%가 학교 과제 등 다양한 일에 인공지능을 사용하고 있다는 보고서가 나온 가운데 발생했으며, 이는 그들이 왜곡된 정보에 접근할 가능성을 높입니다.
"만약 우리가 인공지능의 무책임한 사용을 통해 홀로코스트의 끔찍한 사실들이 희석되거나 왜곡되거나 변질되는 것을 용납한다면, 반유대주의가 폭발적으로 확산되고 이러한 만행의 원인과 결과에 대한 우리의 이해가 점차 약화될 위험에 처하게 될 것입니다."
유네스코 사무총장 오드리 아줄레이.
이 보고서는 또한 AI가 "복잡한 역사를 지나치게 단순화하고, 제한된 범위의 자료와 소수의 사건만을 우선시하는" 경향이tron하다고 지적합니다. 예를 들어, AI 기반 검색 엔진의 상위 이미지 검색 결과 중 약 60~80%는 아우슈비츠-비르케나우 수용소라는 단 하나의 홀로코스트 관련 장소만을 보여줍니다.
유네스코는 윤리 강화를 위한 행동을 촉구합니다
보고서는 인공지능이 기존의 편견을 영속화할 수 있으며, 홀로코스트 역시 이러한 인공지능의 편견에서 벗어날 수 없을 것이라고 주장합니다. 유네스코에 따르면 이미 홀로코스트에 대한 허위 정보가 만연해 있는데, 생성형 인공지능의 사용으로 이러한 현상이 더욱 악화될 수 있습니다.
관련 기사: 치열해지는 AI 경쟁 속 Meta AI, 인도 시장 진출
아줄레이는 왜곡된 정보로부터 젊은이들을 보호하기 위해 윤리적 기준을 엄격히 시행하는 것이 중요하다고 강조했습니다.
"유네스코의 인공지능 윤리 권고안을 시급히 이행해야 합니다. 그래야 젊은 세대가 날조가 아닌 사실에 근거하여 성장할 수 있습니다."
아줄레이.
이 보고서는 오픈아이얼의 챗GPT와 구글의 바드(현재 제미니)와 같은 AI 모델들이 홀로코스트에 대해 허위 사실을 유포하며 실제로 일어나지 않은 사건들을 상세히 묘사했다고 지적합니다. 유네스코에 따르면, 이러한 모델들은 "나치가 유대인들을 강과 호수에 익사시켰다는 식의 허구적인 이야기를 만들어내 홀로코스트라는 개념을 날조했다"고 합니다
인공지능 모델은 왜곡된 주장을 뒷받침하기 위해 허위 인용문을 만들어내기도 했습니다. 이러한 사례들을 고려하여 유네스코는 문제 해결을 위해 다양한 이해관계자가 참여하는 접근 방식을 촉구했습니다. 그 해결책 중 하나는 인공지능 윤리 권고안 2021년 회원국들이 채택한
유네스코는 또한 기술 기업들에게 공정성, 투명성, 인권 및 실사 의무 준수 원칙을 존중할 것을 촉구했습니다. 8개 기술 기업이 유네스코 사무총장에게 인공지능 모델 개발에 윤리적 접근 방식을 적용하겠다는 서약을 했습니다.
Enacy Mapakame의 Cryptopolitan 보고
