ЮНЕСКО обеспокоена тем, что ИИ может исказить память о Холокосте

ЮНЕСКО выразила обеспокоенность тем, что генеративный ИИ может исказить историю Холокоста, если разработчики ИИ не будут применять этические стандарты. В отчете, опубликованном в понедельник, ЮНИСЕФ предупредил о потенциальном злоупотреблении генеративным ИИ со стороны злоумышленников.

Также читайте: БМР предупреждает: центральным банкам необходимо «повысить планку» в вопросах ИИ

В отчете ЮНЕСКО предупреждается, что злоумышленники могут использовать технологию для распространения дезинформации, недостоверной информации и вводящего в заблуждение контента о Холокосте.

Молодые люди уязвимы перед ложной информацией

отчет, опубликованный совместно с Всемирным еврейским конгрессом, предупреждает, что молодые люди более подвержены риску получения искаженной информации из-за их высокой вовлеченности в использование таких новых технологий, как ИИ.

Это происходит на фоне сообщений о том, что 80% молодых людей в возрасте от 10 до 24 лет используют ИИ для выполнения различных задач, таких как школьные задания, что увеличивает их шансы на доступ к искаженной информации.

"Если мы позволим ужасающим фактам Холокоста быть разбавленными, искаженными или подделанными через безответственное использование ИИ, мы рискуем взрывным распространением антисемитизма и постепенным уменьшением нашего понимания причин и последствий этих зверств."

Генеральный директор ЮНЕСКО Одри Азулай.

В отчете также отмечается, что ИИ имеет сильную склонность «упрощать сложную историю, отдавая предпочтение узкому кругу источников и небольшому выбору событий». Например, от 60% до 80% самых популярных результатов поиска изображений в поисковых системах на базе ИИ показывают только одно место Холокоста — Освенцим-Биркенау.

ЮНЕСКО призывает к действию для обеспечения соблюдения этических норм

В отчете утверждается, что ИИ может perpetuate существующие предубеждения, и Холокост не будет застрахован от этих предубеждений ИИ. Уже сейчас, согласно ЮНЕСКО, наблюдается распространение дезинформации о Холокосте, которое может усугубиться из-за использования генеративного ИИ.

Также читайте: Meta AI расширяется в Индии на фоне растущей конкуренции в сфере ИИ

Азулай подчеркнула важность обеспечения соблюдения этических стандартов для защиты молодых людей от искаженной информации.

"Внедрение Рекомендации ЮНЕСКО по этике ИИ является срочной задачей, чтобы молодые поколения росли на фактах, а не на вымыслах."

Азулай.

В отчете отмечается, что модели ИИ, такие как ChatGPT от OpenAI и Bard от Google (теперь Gemini), галлюцинировали на тему Холокоста, описывая события, которые никогда не происходили. Согласно ЮНЕСКО, эти модели «сфальсифицировали концепцию Холокоста, затопив кампании, в которых нацисты топили евреев в реках и озерах».

Модели ИИ также создавали ложные цитаты для поддержки этих искаженных нарративов. В свете этих инцидентов ЮНЕСКО призвала к многостороннему подходу для решения этой проблемы. Одним из решений является быстрое внедрение Рекомендации по этике ИИ, которая была принята государствами-членами в 2021 году.

ЮНЕСКО также призвала технологические компании уважать принципы справедливости, прозрачности, прав человека и должной осмотрительности. Восемь технологических компаний подписали обязательство перед генеральным директором ЮНЕСКО в феврале, обязавшись применять этический подход при разработке своих моделей ИИ.

Материалы Cryptopolitan подготовила Энэси Мапакаме