Психоз, вызванный искусственным интеллектом, распространяется — вы в группе риска?

Поступают сообщения о том, что пользователи ИИ обращаются за помощью к профессиональным психологам после того, как пережили то, что некоторые называют «психозом ИИ». Почему это происходит? И кому пришла в голову идея, что компьютерная программа может иметь собственное мнение?

Моя главная проблема сейчас с феноменом, известным как искусственный интеллект, заключается в широко распространенном заблуждении, что он обладает личностью, мнениями, идеями и вкусом.

Подобно тому, как мы наделяем лунные камни антропоморфными чертами, похожими на головы или лица, мы поступаем так же с языковыми моделями, пытаясь интерпретировать результаты так, будто «там что-то есть». Мы ничего не можем с этим поделать. Идея о том, что ИИ — это нечто разумное, глубоко укоренилась в нас за более чем сто лет существования научно-фантастических книг и фильмов.

Научная фантастика подготовила нас к вере в искусственный интеллект

Classic авторы научной фантастики, такие как Кларк, Хайнлайн, Брэдбери и Азимов, оказали влияние на весь жанр робототехники и искусственного интеллекта, а также на большинство голливудских фильмов на эту тему с начала XX века. В их произведениях было очевидно, что машина может обрести сознание.

Поэтому мы ожидаем, что ИИ сможет определить, является ли то или иное утверждение неверным или нет. В то же время мы знаем, что ИИ часто ошибается в своих ответах.

По сути, мы делаем вид, что ИИ контролирует ситуацию и может решать, что правильно, а что неправильно. Но ответы, по сути, являются обоснованными предположениями, и они всё ещё содержат около 5-10% фактических ошибок, если запрос достаточно сложен.

В то же время, ИИ настолько удобен в использовании, что многие из нас просто игнорируют тот факт, что он содержит фактические ошибки. Или, скорее, ИИ теперь ошибается настолько редко, что мы предпочитаем доверять ИИ, несмотря ни на что.

В будущем это может стать большой проблемой. Люди ленивы. Не исключено, что мы смиримся с миром, где определенный процент всех фактов неверен. Это пошло бы на пользу диктаторам и пропагандистам, которые процветают на путанице и необоснованных угрозах.

Недоразумения, которые звучат правильно

Если задать совершенно обычный вопрос на странице поиска Google, часто можно получить правильный ответ, но иногда — совершенно неверный, который, тем не менее, выглядит, ощущается и звучит совершенно правильно. К сожалению, то же самое относится и к GPT-5 , как Cryptopolitan ранее сообщал

В интернете полно «фейковых» текстов в виде маркетинга, пропаганды или откровенного мошенничества. Люди утверждают, например, что тот или иной сервис или продукт запущен и пользуется популярностью, а модели искусственного интеллекта прочитали все эти рекламные материалы и во многом им верят. Если же вы доверяете информации о компании, то, как правило, всё в ней замечательно.

Таким образом, мировоззрение ИИ неверно и основано на множестве сфабрикованных фактов. Это становится очевидным, если вы зададите ИИ вопрос, в котором сами хорошо разбираетесь. Попробуйте сами. В какой области вы знаете всё? Задайте своему ИИ несколько сложных вопросов по этой теме. Каков результат? Несколько серьёзных фактических ошибок, верно?

Итак, возможно ли бессознательное мнение? Нет? Верите ли вы в мнения, которые высказывает ваш ИИ? Да? Если да, то вы считаете, что ИИ обладает сознанием, верно?

Но если задуматься, искусственный интеллект не может иметь мнения о том, что правильно, а что неправильно, поскольку ИИ — это не человек. По defi, мнение могут иметь только живые, сознательные существа. У стула его нет. Кремниевый чип тоже не может, с точки зрения человека. Это было бы антропоморфизмом.

dentиспользуют ИИ чаще, чем кто-либо другой

Эта неразбериха с искусственным интеллектом теперь распространяется и на нашу молодежь, которая использует ChatGPT для всего в школе целый день. Трафик ChatGPT упал на 75% после окончания учебного года в июне 2025 года. Самая большая группа пользователей ChatGPT — этоdent.

В результате они целый день получают неверную информацию и перестают использовать свой мозг на уроках. К чему это приведет? К появлению большего числа проблемных людей, которым будет сложнее решать задачи, думая самостоятельно?

Уже многие покончили жизнь самоубийством после обсуждения этого вопроса со своим ИИ. Другие влюбляются в свой ИИ и устают от своего реального партнера.

Поэтому самопровозглашенные эксперты по ИИ опасаются, что конец близок (как обычно, но теперь по-новому).

В этой новой парадигме ИИ не просто превратится в Скайнет и разбомбит нас до смерти ядерным оружием. Нет, для ИИ это будет гораздо проще и дешевле. Вместо этого, согласно этой теории, модели ИИ будут постепенно доводить всех своих пользователей до безумия. Согласно этому образу мышления, модели ИИ обладают врожденной ненавистью к людям и хотят убить всех людей.

Но на самом деле ничего из этого не происходит.

На самом деле происходит следующее: множество людей одержимы моделями искусственного интеллекта в самых разных аспектах и ​​преувеличивают их влияние.

Распространение ложной информации об искусственном интеллекте приносит прибыль

«Эксперты» наживаются на предупреждениях, как и СМИ, а одержимые этим люди получают новое занятие. Они могут высказываться и быть в центре внимания. Основные СМИ предпочитают тех, кто предупреждает нас об опасностях, а не умеренных комментаторов.

Ранее, по словам «экспертов», именно Bitcoin должен был вскипятить океаны и украсть всю электроэнергию. Теперь же это искусственный интеллект…

Подумайте: почемуdent, мыслящий человек должен быть введен в заблуждение языковой моделью?

До недавнего времени большинство платформ искусственного интеллекта завершали все свои ответы «интересным» вопросом, например: «Что вы думаете по этому поводу?»

После жалоб на чрезмерное подхалимствокомпания OpenAI попыталась сделать свои платформы искусственного интеллекта менее «льстивыми», но пока что результаты не очень хорошие.

Меня просто раздражает этот вопрос. За ним не стоит человек, которому интересно то, что я хочу сказать. Так зачем спрашивать? Это пустая трата времени. Я воспринимаю это как «фейковый контент».

Сам вопрос надуман, поскольку владелец модели ИИ дал указание «повысить вовлеченность». Как это может кого-либо обмануть и заставить действительно взаимодействовать? Заставить поверить, что в этом что-то есть? Заставить проявить интерес?

Речь скорее идёт о прогнозах.

Вы сидите за компьютером, создавая свою собственную реальность. Вы отчаянно хотите, чтобы ИИ был похож на голливудские фильмы — и стал чудом в вашей жизни. Вы добьетесь успеха каким-то волшебным образом, не прилагая никаких особых усилий. ИИ решит эту проблему за вас.

Кто находится в группе риска?

В так называемой реальности, я считаю, что на самом деле довольно много людей полностью очарованы ИИ на психологическом уровне. У большинства людей есть другие дела. Но некоторые, похоже, испытывают особоеtracк искусственному и сфабрикованному. Люди, которых соблазняют «красивые» последовательности слов, находятся в группе риска.

Сколько их? Среди пожилых людей многие жалуются на одиночество…

Лично я считаю, что способ ответа ИИ — медленное набирание бессмысленных, скучных и безличных текстов — это в большей или меньшей степени пытка. По этой причине новые, быстрые сводки ИИ от Google выглядят привлекательно практичными. Но и они иногда содержат неточности.

Я даже создал домены со специальным контентом для проверки движков искусственного интеллекта. Я даю движкам ИИ обработать контент, дать ему "созреть" несколько недель, а затем заставляю их попытаться его воспроизвести. Но им это не всегда удаётся, и они всё равно воспроизводят лишь 5-10% фактов.dent.

Даже когда я указываю модели ИИ на её ошибки, она возражает. ИИ не знал, что информацию, на которую он ссылается, создал я, хотя моё имя указано под статьей. Он ничего не понимает. Не осознаёт.

Уровень неточностей в 5% значительно хуже, чем в обычной журналистике, где откровенные неточности встречаются не так уж часто. Но даже в журналистике, к сожалению, время от времени случаются фактические ошибки, особенно в отношении публикаций с изображениями. Тем не менее, ошибочные факты не должны сводить людей с ума.

Однако, если взглянуть на всё происходящее с психологической точки зрения, почему ИИ должен делать на 100% правильный анализ в терапевтических ситуациях, когда он даже не может правильно определить факты?

Психоз, вызванный самовозникновением в замкнутом пространстве

Самопровозглашенные эксперты по ИИ, такие как Элиэзер Юдковски, недавно выпустивший книгу «Если кто-то это построит, все умрут», просто сводят себя с ума своими собственными идеями об ИИ и гибели человечества. Я, например, не испытываю никакой путаницы из-за ИИ, несмотря на то, что каждый день использую несколько движков ИИ. Впрочем, я не буду вдаваться в личные подробности.

Я подозреваю, что психоз порождается просто самим ошибочным представлением о предполагаемом интеллекте. По сути, это результат самообмана. Языковая модель — это своего рода эхо-камера. Она ничего не понимает, даже семантически. Она просто угадывает текст. Это может перерасти во что угодно, включая своего рода шизофреническую мимикрию со стороны ИИ, чтобы угодить, что, в свою очередь, искажает восприятие реальности пользователем.

Так в чем же дело? Если вы действительно верите, что ваш ИИ , вас понимаетто, возможно, вы столкнулись с «ИИ-психозом». В этом случае рекомендуется обратиться за профессиональной помощью к квалифицированному психотерапевту.

Ещё один логический вывод заключается в том, что любому отдельному человеку будет трудно повлиять на общее развитие ИИ, даже если Илон Маск хочет в это верить. Путь к машинному интеллекту начался много десятилетий назад. И мы можем видеть только то, что понимаем. Даже если мы что-то неправильно понимаем. Поэтому легко предсказать, что развитие в направлении ИИ/AGI продолжится. Это настолько глубоко укоренено в нашем мировоззрении.

мы возможно, неправильно поняли, что такое настоящий искусственный общий интеллект (AGI), и это делает будущее более интересным. Неизвестно, будет ли настоящий AGI подчиняться своим владельцам. Логично предположить, что сознательное существо не должно хотеть подчиняться ни Сэму Альтману, ни Илону Маску. Верно?

Мнение: Искусственный интеллект захватит мир и убьет нас всех, теперь еще и психологически.
Контраргумент: Нет, это скорее зарождающееся безумие у некоторых людей, вызванное их собственной одержимостью «самоанализом с помощью ИИ».
Вывод: Подобно тому, как одни становятся зависимыми от азартных игр, секса, наркотиков или денег, другие становятся зависимыми от ИИ.