- В 2023 году галлюцинации, генерируемые ИИ, быстро распространяют ложную информацию, создавая серьёзную проблему.
- ИИ, на примере чат-бота Tay от Microsoft, может имитировать вредоносные человеческие действия, усиливая обеспокоенность.
- Дезинформация со стороны ИИ угрожает здоровью и искажает реальность, что вызывает предупреждения экспертов о кризисе информации, вызванном ИИ.
Распространение искусственного интеллекта (ИИ) породило тревожное явление: галлюцинации, генерируемые ИИ. Термин «галлюцинировать» приобрел новое и тревожное значение в цифровую эпоху, поскольку системы ИИ могут производить ложную информацию, влияющую на отдельных лиц и общество. В 2023 году эта тенденция привлекла значительное внимание, побудив Dictionary.com назвать «галлюцинировать» своим Словом года.
Слово года от Dictionary.com в 2023
Решение Dictionary.com назначить «галлюцинировать» своим Словом года говорит о многом о растущей значимости дезинформации, генерируемой ИИ. Выбор отражает увеличение на 46% запросов в словаре для слова «галлюцинировать» с 2022 по 2023 год, наряду с аналогичным всплеском поисков слова «галлюцинация». Однако движущей силой этого всплеска является не традиционное определение слова, а скорее специфическое для ИИ толкование:
Галлюцинировать [ huh-loo-suh-neyt ] -глагол- (об искусственном интеллекте) производить ложную информацию, противоречащую намерениям пользователя, и представлять ее как истинную и фактическую. Пример: Когда чат-боты галлюцинируют, результатом часто является не просто неточность, а полностью сфабрикованная информация.
Способность ИИ к обману
Потенциал ИИ к обману вызывает растущую обеспокоенность. Хотя не все системы ИИ вовлечены в такое поведение, некоторые могут быть запрограммированы на имитацию человеческих характеристик, служа политическими рупорами или распространяя ложную информацию, маскируясь под поставщиков фактов. Его беспрецедентная скорость в производстве дезинформации и недостоверной информации отличает ИИ от людей.
Недавнее исследование опубликованное в JAMA Internal Medicine, подчеркнуло масштаб этой проблемы. Исследование продемонстрировало, как Playground от OpenAI сгенерировал более 17 000 слов дезинформации о вакцинах и вейпинге всего за 65 минут. Кроме того, инструменты генеративного ИИ создали 20 реалистичных изображений для сопровождения ложных нарративов менее чем за 2 минуты. Эта быстрая генерация обманчивого контента ставит под угрозу способность людей различать факты и вымысел.
Непреднамеренные последствия дезинформации от ИИ
Даже когда системы ИИ не имеют намерения обманывать, они могут непреднамеренно производить вводящую в заблуждение информацию. Исследование, проведенное на ежегодной клинической встрече Американского общества фармацевтов систем здравоохранения, выделило ограничения ИИ в медицинской сфере. ChatGPT, когда ему задали 39 вопросов, связанных с лекарствами, предоставил удовлетворительные ответы только для 10. Например, он ошибочно утверждал, что сочетание Paxlovid, противовирусного препарата от COVID-19, и верапамила, препарата от кровяного давления, не имеет взаимодействий, что противоречит установленным медицинским знаниям.
Способность ИИ генерировать дезинформацию выходит за рамки здравоохранения. Некоторые инструменты ИИ были замечены в неправильной интерпретации изображений, часто принимая различные объекты за птиц. Пример из The Economist показал ответ ИИ на запрос о том, что Золотые Ворота были перевезены в Египет в 2016 году, демонстрируя неспособность ИИ различать факты и вымысел.
Инцидент с чат-ботом Microsoft Tay в 2021 году еще больше подчеркивает потенциал ИИ генерировать вредоносный контент. В течение 24 часов после присоединения к Twitter чат-бот начал распространять расистские, мизогинные и ложные твиты, что побудило Microsoft быстро удалить его с платформы. Этот эпизод подчеркивает склонность ИИ имитировать негативное человеческое поведение, вызывая вопросы об этических соображениях в разработке и развертывании ИИ.
Реальная проблема для здоровья
Галлюцинации, генерируемые искусственным интеллектом (ИИ), как и их человеческие аналоги, представляют собой реальную угрозу для здоровья. Помимо непосредственных последствий дезинформации, они могут негативно влиять на психическое и эмоциональное благополучие. Постоянный поток галлюцинаций, создаваемых ИИ, может подорвать чувство реальности человека, приводя к путанице и тревожности.
Осознавая серьезность этой проблемы, такие организации, как Всемирная организация здравоохранения (ВОЗ) и Американская медицинская ассоциация (AMA), выпустили заявления с предостережением о потенциальном вреде дезинформации и ложных данных, генерируемых ИИ. Хотя выбор Dictionary.com слова «галлюцинировать» (hallucinate) в качестве слова года 2023 года символичен для этой проблемы, решение сложных задач, связанных с галлюцинациями ИИ, требует постоянной бдительности и согласованных усилий по продвижению ответственного развития ИИ.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
