ЮНЕСКО выразила обеспокоенность тем, что генеративный ИИ может исказить историю Холокоста, если разработчики ИИ не будут соблюдать этические стандарты. В докладе, опубликованном в понедельник, UNICEF предупредила о потенциальном злоупотреблении генеративным ИИ со стороны недобросовестных лиц.
Читайте также: Центральный банк должен «поднять планку» в отношении ИИ, предупреждает Банк международных расчетов.
В докладе ЮНЕСКО содержится предупреждение о том, что злоумышленники могут использовать эту технологию для распространения дезинформации, ложных сведений и вводящей в заблуждение информации о Холокосте.
Молодые люди уязвимы перед ложной информацией
В докладе, опубликованном совместно с Всемирным еврейским конгрессом, содержится предупреждение о том, что молодые люди подвергаются большему риску получения искаженной информации из-за их активного взаимодействия с новыми технологиями, такими как искусственный интеллект.
Это происходит на фоне сообщений о том, что 80% молодых людей в возрасте от 10 до 24 лет используют ИИ для различных задач, таких как школьные задания, что увеличивает вероятность получения ими искаженной информации.
«Если мы позволим исказить, завуалировать или сфальсифицировать ужасающие факты Холокоста посредством безответственного использования ИИ, мы рискуем спровоцировать взрывное распространение антисемитизма и постепенное углубление нашего понимания причин и последствий этих зверств»
Генеральный директор ЮНЕСКО Одри Азуле.
В докладе также подчеркивается, что ИИ обладаетtronсклонностью к «чрезмерному упрощению сложной истории, отдавая предпочтение узкому кругу источников и небольшому числу событий». Например, от 60% до 80% лучших результатов поиска изображений в поисковых системах, использующих ИИ, показывают только одно место, связанное с Холокостом, — Освенцим-Биркенау.
ЮНЕСКО призывает к принятию мер по обеспечению соблюдения этических норм
В докладе утверждается, что ИИ может увековечивать существующие предрассудки, и Холокост не избежит влияния этих предрассудков ИИ. По данным ЮНЕСКО, уже сейчас широко распространена дезинформация о Холокосте, и ее распространение может усугубиться из-за использования генеративного ИИ.
Читайте также: Meta AI выходит на индийский рынок на фоне растущей конкуренции в сфере ИИ.
Азулай подчеркнул важность соблюдения этических стандартов для защиты молодежи от искаженной информации.
«Необходимо срочно внедрить Рекомендацию ЮНЕСКО по этике искусственного интеллекта, чтобы молодое поколение росло, опираясь на факты, а не на вымыслы»
Азулай.
В докладе подчеркивается, что модели искусственного интеллекта, такие как ChatGPT от OpenAI и Bard от Google (ныне Gemini), создавали иллюзии Холокоста, описывая события, которых никогда не было. По данным ЮНЕСКО, эти модели «сфабриковали концепцию Холокоста, проводя кампании по утоплению, в ходе которых нацисты топили евреев в реках и озерах»
Модели искусственного интеллекта также создавали ложные цитаты для поддержки этих искаженных нарративов. В свете этих инцидентов ЮНЕСКО призвала к многостороннему подходу к решению этой проблемы. Одним из решений является скорейшее внедрение Рекомендации по этике ИИ, принятой государствами-членами в 2021 году.
ЮНЕСКО также призвала технологические компании соблюдать принципы справедливости, прозрачности, прав человека и должной осмотрительности. восемь технологических компаний подписали обязательство перед генеральным директором ЮНЕСКО, обязуясь применять этичный подход при разработке своих моделей искусственного интеллекта.
Cryptopolitan репортаж Энаси Мапакаме
