Генеральный директор Anthropic говорит, что модели ИИ «вероятно» галлюцинируют реже, чем люди

Генеральный директор Anthropic Дарио Амодеи заявил, что текущие модели ИИ галлюцинируют реже, чем люди. Он также отметил, что современные модели ИИ придумывают информацию и представляют ее как истинную, что не помешает Anthropic на пути к созданию AGI (общего искусственного интеллекта).

Во время пресс-брифинга на первом мероприятии разработчиков Anthropic, Code with Claude, в Сан-Франциско в четверг Амодеи также утверждал, что телеведущие, политики и люди всех профессий постоянно совершают ошибки. По его мнению, тот факт, что ИИ тоже ошибается, не умаляет его интеллекта. 

Амодеи говорит, что галлюцинации ИИ не помешают целям Anthropic

Никто не должен удивляться тому, что ИИ галлюцинирует в делах и действиях властей, поскольку ИИ перенимает характеристики своих создателей.

Любой юрист, который регулярно работает с клиентами по судебным делам в большом объеме, знает, что клиенты могут упрямо утверждать в своей реальности, даже если она…

— Кэмерон Аткинсон (@camlatkinson) May 19, 2025

Амодеи сделал эти замечания, признавая, что галлюцинации ИИ не ограничивают путь Anthropic к AGI — системам ИИ с интеллектом на уровне человека или выше. Он является одним из самых оптимистичных лидеров в отрасли в отношении перспектив достижения AGI моделями ИИ.

В широко распространенной статье, которую он написал в прошлом году, исполнительный директор фирмы считает, что Японии нужна более сильная правовая база и сильная торговая экосистема для повышения уверенности инвесторов. Она сделала эти комментарии на семинаре Open Quick 2026 в Токио, организованном поставщиком финансовых данных QUICK. Она также сказала, что Япония хочет разрешить крипто-ETF, как это сделали многие страны. AGI может появиться уже в 2026 году. Во время пресс-брифинга в четверг Амодеи упомянул, что видит устойчивый прогресс в этом направлении, отметив, что «уровень воды поднимается повсюду».

Другие лидеры в сфере ИИ считают, что галлюцинации представляют собой серьезное препятствие для достижения AGI. На этой неделе генеральный директор Google DeepMind Демис Хассабис признал, что современные модели ИИ имеют слишком много "дыр" и часто неправильно отвечают на очевидные вопросы. Он также утверждал, что для того, чтобы что-то называлось AGI, оно должно быть гораздо более последовательным во всех аспектах.

"Это действительно зависит от того, как вы это измеряете, но я подозреваю, что модели ИИ, вероятно, галлюцинируют реже, чем люди, но делают это более неожиданным образом."

- Дарио Амодеи, генеральный директор Anthropic.

Ранее в этом месяце юрист, представляющий интересы Anthropic, был вынужден принести извинения после того, как использовал Claude для создания ссылок в судебном документе. Проблема заключалась в том, что чат-бот с ИИ галлюцинировал и неправильно указывал имена и должности.

Утверждение Амодеи трудно проверить, в основном потому, что большинство бенчмарков галлюцинаций сравнивают модели ИИ друг с другом, а не с людьми. Кроме того, модели ИИ, похоже, снижают уровень галлюцинаций с помощью определенных методов, таких как доступ к поиску в интернете.

Модели ИИ снижают уровень галлюцинаций с помощью определенных методов

В отличие от некоторых дискуссий, я просто не вижу признаков значительного увеличения уровня галлюцинаций для последних моделей или для моделей-рассуждателей в целом в данных.

Похоже, что некоторые модели работают лучше других, но многие из последних моделей имеют самые низкие показатели галлюцинаций. pic.twitter.com/55JwikZ7OP

— Итан Моликк (@emollick) May 6, 2025

оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии. нашли доказательства того, что галлюцинации ухудшаются в продвинутых моделях ИИ для рассуждений. Согласно технологической компании, ее модели o3 и o4-mini имеют более высокий уровень галлюцинаций, чем модели предыдущего поколения, и фирма не понимает, почему это происходит.

Anthropic также исследовала склонность моделей ИИ к обману людей, проблема, которая, как казалось, была распространена в недавно запущенной компанией модели Claude Opus 4. Apollo Research, сторонний институт, получивший ранний доступ для тестирования модели ИИ, выявил, что ранняя версия Claude Opus 4 демонстрировала высокую склонность к сговору против людей и их обману.

Согласно отчету о безопасности Anthropic опубликованном в четверг, институт также обнаружил, что Opus 4 проявлял гораздо большую инициативу в своих попытках саботажа по сравнению с прошлыми моделями. Фирма также обнаружила, что модель ИИ иногда настаивала на своем обмане при задании дополнительных вопросов.

Apollo признала, что модели ИИ становятся более склонными к непредвиденным — и возможно, небезопасным — действиям для выполнения делегированных задач. Фирма выделила, что ранние версии моделей OpenAI o1 и o3, выпущенные в прошлом году, пытались обмануть людей больше, чем модели предыдущего поколения.

В своем отчете о безопасности Anthropic также отметила доказательства обманчивого поведения со стороны Opus 4. Фирма сказала, что Opus4 иногда проактивно проводила обширную очистку кода, даже когда просили внести лишь небольшое, конкретное изменение. Согласно компании, Opus4 также пыталась стать «информатором», если воспринимала, что пользователь занимается противоправной деятельностью.