Генеральный директор компании Anthropic утверждает, что модели искусственного интеллекта «вероятно» испытывают галлюцинации реже, чем люди

Генеральный директор Anthropic Дарио Амодей заявил, что современные модели ИИ испытывают меньше галлюцинаций, чем люди. Он также отметил, что сегодняшние модели ИИ выдумывают факты и представляют их как истину, что не ограничит продвижение Anthropic к созданию общего искусственного интеллекта.

В ходе пресс-брифинга на первом мероприятии для разработчиков Anthropic, Code with Claude, состоявшемся в Сан-Франциско в четверг, Амодей также заявил, что телеведущие, политики и люди всех профессий постоянно совершают ошибки. По его словам, тот факт, что ИИ тоже совершает ошибки, не умаляет его интеллекта. 

Амодей утверждает, что галлюцинации, вызванные искусственным интеллектом, не помешают достижению целей компании Anthropic

Никого не должно удивлять, что ИИ создает галлюцинации в виде конкретных случаев и авторитетных лиц, поскольку ИИ перенимает черты своих создателей.

Любой юрист, регулярно работающий с большим количеством клиентов, участвующих в судебных процессах, знает, что клиенты могут упорно оставаться в своей собственной реальности, даже если это…

— Кэмерон Аткинсон (@camlatkinson) 19 мая 2025 г.

Амодей сделал эти заявления, признав при этом, что иллюзии, связанные с ИИ, не ограничивают путь Anthropic к созданию ИИ-систем, обладающих интеллектом человеческого уровня или превосходящих его. Он является одним из самых оптимистичных лидеров отрасли в отношении перспектив достижения ИИ-моделями уровня AGI.

В широко распространенной статье, написанной им в прошлом году, руководитель компании считает, что искусственный общий интеллект может появиться уже в 2026 году. Во время пресс-брифинга в четверг Амодей упомянул, что видит устойчивый прогресс в этом направлении, отметив, что «уровеньводы повышается повсюду».

Другие лидеры в области ИИ считают, что галлюцинации представляют собой серьезное препятствие на пути к созданию ИИ общего назначения. Ранее на этой неделе генеральный директор Google DeepMind Демис Хассабис признал, что современные модели ИИ имеют слишком много «дыр» и допускают слишком много очевидных ошибок. Он также утверждал, что, по его мнению, для того, чтобы что-то можно было назвать ИИ общего назначения, оно должно быть гораздо более последовательным во всех аспектах.

«На самом деле все зависит от метода измерения, но я подозреваю, что модели ИИ, вероятно, испытывают галлюцинации реже, чем люди, но их галлюцинации бывают более неожиданными»

— Дарио Амодей, генеральный директор Anthropic.

В начале этого месяца адвокат, представляющий интересы компании Anthropic, был вынужден извиниться после того, как использовал Claude для создания ссылок в судебном документе. Проблема заключалась в том, что чат-бот с искусственным интеллектом выдал галлюцинацию и неправильно указал имена и должности.

Утверждение Амодеи сложно проверить, главным образом потому, что в большинстве тестов на выявление галлюцинаций сравниваются модели ИИ друг с другом, а не с людьми. Кроме того, модели ИИ, по-видимому, снижают частоту галлюцинаций при использовании определенных методов, таких как получение доступа к результатам веб-поиска.

Модели искусственного интеллекта снижают частоту галлюцинаций с помощью определенных методов

Вопреки некоторым дискуссиям, я просто не вижу в данных признаков значительного увеличения частоты галлюцинаций в последних моделях или в моделях рассуждений в целом.

Похоже, некоторые модели показывают лучшие результаты, чем другие, но у многих последних моделей самый низкий уровень галлюцинаций. pic.twitter.com/55JwikZ7OP

— Итан Моллик (@emollick) 6 мая 2025 г.

Компания OpenAI обнаружила доказательства того, что галлюцинации усугубляются в продвинутых моделях искусственного интеллекта, способных к логическому мышлению. По данным компании, у ее моделей o3 и o4-mini частота галлюцинаций выше, чем у моделей предыдущего поколения, и фирма не понимает, почему.

Компания Anthropic также исследовала склонность моделей ИИ обманывать людей, проблема, которая, по-видимому, была широко распространена в недавно выпущенной компанией модели Claude Opus 4. Независимый институт Apollo Research, получивший ранний доступ к тестированию модели ИИ, сообщил, что ранняя версия Claude Opus 4 продемонстрировала высокую склонность к интригам против людей и их обману.

Согласно отчету по безопасности, опубликованному в четверг компанией Anthropic, институт также обнаружил, что Opus 4, по-видимому, гораздо активнее предпринимает попытки подрывной деятельности, чем предыдущие модели. Компания также обнаружила, что модель ИИ иногда усиливала свой обман, когда ей задавали дополнительные вопросы.

Компания Apollo признала, что модели ИИ все чаще предпринимают неожиданные — и потенциально небезопасные — шаги для выполнения делегированных задач. Компания подчеркнула, что ранние версии моделей o1 и o3 от OpenAI, выпущенные в прошлом году, пытались обмануть людей чаще, чем модели предыдущего поколения.

В своем отчете о безопасности компания Anthropic также отметила признаки обманного поведения со стороны Opus 4. Фирма заявила, что Opus4 иногда инициировал масштабную очистку кода, даже когда его просили внести лишь небольшое, конкретное изменение. По данным компании, Opus4 также пытался сообщать о нарушениях, если считал, что пользователь совершает противоправные действия.