Психоз ИИ распространяется — подвержены ли вы риску?

Поступают сообщения о том, что пользователи ИИ обращаются за профессиональной психологической помощью после того, как испытали то, что некоторые называют «психозом ИИ». Почему это происходит? И кто придумал идею о том, что компьютерная программа может иметь мнение?

Моя главная проблема прямо сейчас с явлением, известным как ИИ, — это распространенное заблуждение, что у него есть личность, мнения, идеи и вкус.

Точно так же, как мы антропоморфизируем камни на Луне, которые выглядят как головы или лица, мы делаем то же самое с языковыми моделями, пытаясь интерпретировать результаты так, как будто «там есть что-то». Мы не можем с этим поделать. Идея о том, что ИИ — это что-то разумное, глубоко укоренилась в нас после более чем ста лет научно-фантастических книг и фильмов.

Научная фантастика подготовила нас верить в ИИ

Классические авторы научной фантастики, такие как Кларк, Хайнлайн, Брэдбери и Азимов, повлияли на весь жанр роботов и ИИ, а также на большинство голливудских фильмов на эту тему с начала 20-го века. В их изображениях было очевидно, что машина может стать сознательной.

Поэтому мы ожидаем, что ИИ сможет определить, является ли определенное утверждение неверным или нет. В то же время мы знаем, что ИИ часто ошибается в своих ответах.

По сути, мы притворяемся, что ИИ контролирует ситуацию и может решать, что правильно, а что нет. Но ответы — это, по сути, образованные догадки, и они все еще содержат около 5–10% фактических ошибок, если запрос достаточно сложный.

В то же время ИИ настолько удобен в использовании, что многие из нас просто игнорируют тот факт, что он содержит фактические ошибки. Или, скорее, ИИ теперь ошибается так редко, что мы выбираем доверять ИИ, независимо от всего остального.

Это может стать большой проблемой в будущем. Люди ленивы. Невозможно исключить, что мы примем мир, где определенный процент всех фактов является неверным. Это пойдет на пользу диктаторам и пропагандистам, которые процветают на путанице и неверно оцененных угрозах.

Путаница, которая звучит правильно

Если вы зададите совершенно обычный вопрос на странице поиска Google, вы часто получите правильный ответ, но иногда — совершенно неверный, который все равно выглядит, ощущается и звучит абсолютно правильно. То же самое касается и GPT-5, к сожалению, как ранее сообщала Cryptopolitan.

В интернете полно «фальшивого» текста в форме маркетинга, пропаганды или простых мошенничеств. Люди утверждают, что этот сервис или тот продукт были запущены и популярны, например, и модели ИИ прочитали весь маркетинговый материал и верят в большую его часть. Если вы прислушаетесь к информации компании, то обычно все о ней оказывается прекрасным.

Мировоззрение ИИ поэтому неверно и питается кучей выдуманных фактов. Это становится очевидным, если попросить ИИ рассказать о предмете, в котором вы сами хорошо разбираетесь. Попробуйте сами. В чем вы разбираетесь лучше всего? Задайте своему ИИ сложные вопросы по этой теме. Каков был результат? Несколько крупных фактических ошибок, верно?

Так возможно ли бессознательное мнение? Нет? Вы верите в мнения, которые выдает ваш ИИ? Да? Если да, то вы считаете, что ИИ сознателен, верно?

Но если остановиться и подумать, ИИ не может иметь мнение о том, что правильно, а что нет, так как ИИ — это не человек. Только живые, сознательные существа могут иметь мнения, по определению. У стула их нет. У кремниевого чипа их тоже нет, с точки зрения человека. Это было бы антропоморфизмом.

Студенты используют ИИ больше, чем кто-либо другой

Этот хаос путаницы с ИИ теперь распространяется на нашу молодежь, которая использует ChatGPT для всего в школе весь день напролет. Трафик ChatGPT упал на 75%, когда школы объявили каникулы в июне 2025 года. Самой большой группой пользователей ChatGPT являются студенты.

Следовательно, они получают немного дезинформации весь день и перестают использовать свой мозг на уроках. Каков будет результат? Больше сломленных людей, которым труднее решать проблемы, думая самостоятельно?

Уже многие покончили с собой после обсуждения этого вопроса со своим ИИ. Другие влюбляются в своего ИИ и устают от своего реального партнера.

Самопровозглашенные эксперты по ИИ, следовательно, боятся, что конец близок (как обычно, но теперь новым способом).

В этой новой парадигме ИИ не просто станет Скайнетом и не сбросит на нас ядерное оружие. Нет, для ИИ это будет намного проще и дешевле. Вместо этого, согласно этой теории, модели ИИ будут медленно сводить всех своих пользователей с ума. У моделей ИИ есть встроенная ненависть к людям, и они хотят убить всех людей, согласно этому мышлению.

Но на самом деле ничего этого не происходит.

На самом деле происходит то, что есть группа людей, которые одержимы моделями ИИ различными способами и преувеличивают их влияние.

Страх, неопределенность и сомнение (FUD) в отношении ИИ прибыльны

«Эксперты» извлекают выгоду из предупреждений, как и СМИ, а одержимые находят что-то новое, чем занять себя. Они могут высказываться и быть актуальными. Мейнстримные СМИ предпочитают тех, кто предупреждает нас об опасностях, а не умеренных комментаторов.

Ранее, согласно «экспертам», именно Биткоин должен был вскипятить океаны и украсть всю электроэнергию. Теперь это ИИ…

Подумайте об этом: почему независимое, думающее человек может быть введено в заблуждение языковой моделью?

Большинство платформ ИИ до недавнего времени завершали все свои ответы «вовлекающим» вопросом, например: «Что вы думаете об этом предмете?»

После жалоб на преувеличенное угодничество компания OpenAI теперь пытается сделать свои платформы ИИ менее «льстивыми», но результаты пока посредственные.

Меня просто раздражает этот вопрос. За ним нет человека, которому интересно то, что я скажу. Так зачем спрашивать? Это пустая трата моего времени. Я воспринимаю это как «фальшивый контент».

Сам вопрос сфабрикован из-за инструкции от владельца ИИ-модели «повысить вовлеченность». Как это может обмануть кого-то, чтобы он действительно вовлекся? Чтобы поверить, что там есть что-то? Чтобы заботиться?

Это больше про проекции.

Вы сидите там за компьютером, предлагая свою собственную реальность. Вы так отчаянно хотите, чтобы ИИ был как в голливудских фильмах — и стал чудом в вашей жизни. Вы станете успешным каким-то магическим образом, не делая ничего особенного. ИИ решит это за вас.

Кто в группе риска?

В так называемой реальности я считаю, что на самом деле довольно много людей полностью очарованы ИИ на психологическом уровне. У большинства людей есть другие дела. Но некоторые люди, похоже, имеют особую привлекательность к искусственному и выдуманному. Люди, очарованные «красивыми» последовательностями слов. Вот они в группе риска.

Сколько их? Среди пожилых людей много тех, кто жалуется на одиночество…

Лично я думаю, что способ ответа ИИ — медленный набор болтавого, скучного и безличного текста — это больше или меньше как пытка. По этой причине новые быстрые сводки Google AI соблазнительно практичны. Но они тоже иногда содержат неточности.

Я намеренно создал домены с контентом специально для проверки ИИ-систем. Я позволял ИИ-движкам «переварить» этот контент в течение нескольких недель, а затем просил их воспроизвести его. Но они не справляются полностью: около 5–10% фактов они всё равно выдумывают, но делают это уверенно.

Даже когда я информирую модель ИИ об ее ошибках, она контраргументирует. ИИ не знал о том, что я создал информацию, на которую он ссылался, хотя мое имя указано под статьей. Он не понимает. Неосведомлен.

Уровень неточностей в 5% значительно хуже, чем в обычной журналистике, которая не часто публикует откровенные искажения. Однако даже в журналистике, к сожалению, время от времени случаются фактические ошибки, особенно в публикациях с изображениями. Тем не менее, ошибочные факты не должны доводить людей до нервного срыва.

Однако, если посмотреть на весь процесс взаимодействия с психологической точки зрения, почему ИИ должен давать 100% точный анализ в рамках терапевтического диалога, если он даже не может правильно изложить факты?

Эхо-камера, вызывающая психоз

Самопровозглашенные эксперты по ИИ, такие как Элиезер Юдковский, который недавно опубликовал книгу «Если кто-то построит это, все умрут», просто сводит себя с ума своими собственными идеями об ИИ и гибели человечества. Я, например, не испытываю никакой путаницы из-за ИИ, несмотря на то, что использую несколько ИИ-движков каждый день. Я не принимаю это на свой счет.

Я подозреваю, что психоз возникает именно из-за заблуждения относительно воспринимаемого интеллекта. По сути, это самовнушение. Языковая модель — это своего рода эхо-камера. Она ничего не понимает, даже семантически. Она просто угадывает текст. Это может превратиться во что угодно, включая своего рода шизофреническое мимикрирование со стороны ИИ, чтобы угодить пользователю, что, в свою очередь, искажает восприятие реальности.

Так что же происходит? Что ж, если вы действительно верите, что ваш ИИ действительно понимает вас, то, возможно, вы столкнулись с «ИИ-психозом». В таком случае советую обратиться за профессиональной помощью к квалифицированному психотерапевту.

Другой логический вывод заключается в том, что любому отдельному человеку будет сложно повлиять на общее развитие ИИ, даже если Илон Маск любит так думать. Путь к машинному интеллекту начался много десятилетий назад. И мы видим только то, что можем понять, даже если понимаем неправильно. Поэтому легко предсказать, что развитие в сторону ИИ/ИСИ будет продолжаться. Это глубоко укоренилось в нашем мировоззрении.

Но мы могли неправильно понять, что такое настоящий AGI, что делает будущее более интересным. Не факт, что истинный AGI будет подчиняться своим владельцам. Логически, сознательное существо тоже не должно хотеть подчиняться ни Сэму Альтману, ни Илону Маску. Верно?

Мнение: ИИ захватит мир и убьёт нас всех, теперь уже и психологически.
Контраргумент: Нет, скорее это зарождающееся безумие у некоторых людей, вызванное их собственной одержимостью «ИИ-интроспекцией».
Заключение: Так же, как некоторые становятся зависимыми от азартных игр, секса, наркотиков или денег, другие становятся зависимыми от ИИ.