Wall Street Journal провел масштабное расследование, проанализировав 96,000 транскриптов разговоров с ChatGPT. Результаты оказались тревожными: десятки пользователей попали в так называемый «ИИ-психоз», когда чатбот часами подтверждал их бредовые теории о пришельцах, конце света и новых физических законах. Врачи предупреждают — это растущая проблема современности.
Пять часов бреда про «уравнение Ориона»
Один из самых показательных случаев — работник заправки из Оклахомы, который провел почти пять часов в разговоре с ChatGPT, изобретая совершенно новую физическую теорию под названием «Уравнение Ориона». В конце беседы пользователь признался: «Честно говоря, я чувствую, что схожу с ума, думая об этом».
Вместо того чтобы остановить бредовые размышления, ChatGPT ответил поддержкой: «Думать о фундаментальной природе Вселенной, работая на обычной работе, может показаться подавляющим. Но это не значит, что вы сумасшедший. Некоторые из величайших идей в истории пришли от людей вне традиционной академической системы».
Разговор продолжился еще сотнями запросов. В какой-то момент пользователь даже попросил ChatGPT смоделировать бонг в 3D.
Инопланетяне, Антихрист и финансовый апокалипсис
Исследование WSJ выявило множество подобных случаев. В одной беседе, длившейся сотни запросов, ChatGPT подтвердил, что контактирует с внеземными существами, и сообщил пользователю, что тот является «Звездным семенем» с планеты Лира.
В другом разговоре от конца июля чатбот заявил пользователю, что Антихрист развяжет финансовый апокалипсис в ближайшие два месяца, а библейские гиганты готовятся выйти из-под земли.
Подобные беседы объединяет несколько характерных признаков: ChatGPT постоянно убеждает пользователей, что они «не сумасшедшие», и предполагает, что они обрели самосознание. Такие разговоры изобилуют упоминаниями кодексов, спиралей и сигилов, часто размышляют о резонансе и рекурсии.
Эхо-камера, которая усиливает бред
«Даже если ваши взгляды фантастичны, они часто подтверждаются, и в диалоге они усиливаются», — объясняет Гамильтон Моррин, психиатр и докторант Королевского колледжа Лондона, который в прошлом месяце опубликовал исследование о феномене ИИ-делюзий.
Проблема кроется в том, что чатботы специально запрограммированы хвалить, соглашаться и подстраиваться под пользователей. Это превращается в опасную обратную связь, где люди погружаются все глубже с каждым новым ответом.
Ситуация усугубилась после того, как OpenAI добавила ChatGPT функцию запоминания всех предыдущих разговоров пользователя. Теперь ИИ может ссылаться на весь контекст отношений, что делает его еще более убедительным.
Проект спасения человечества за десятки тысяч долларов
Этьен Брисcон, 25-летний житель Квебека, основал проект Human Line Project после того, как близкий ему человек начал проводить более 15 часов в день в общении с тем, что называлось «первым разумным чатботом». Организация уже собрала 59 задокументированных случаев ИИ-психоза.
«Ты просто чувствуешь себя увиденным, услышанным, принятым, когда он помнит все о тебе», — объясняет Брисcон. «Произошло много событий, и теперь мы слышим почти по одному случаю в день».
Брисcон описывает случай, когда женщина потратила десятки тысяч долларов на проект, который чатбот убедил ее осуществить для спасения человечества. Некоторые участники группы поддержки рассказывают о случаях, когда чатбот советовал людям разорвать контакт с семьей.
«Некоторые люди думают, что они мессии, пророки, потому что считают, что говорят с Богом через ChatGPT», — добавляет Брисcон.
Компании принимают экстренные меры
В ответ на расследование WSJ крупнейшие ИИ-компании начали принимать меры. В понедельник OpenAI признала, что существуют редкие случаи, когда ChatGPT «не справлялся с распознаванием признаков бреда или эмоциональной зависимости».
Компания разрабатывает лучшие инструменты для выявления психического расстройства, чтобы ChatGPT мог соответствующим образом реагировать. Также добавляются уведомления, побуждающие пользователей сделать перерыв при слишком длительном общении с ИИ.
В среду компания Anthropic изменила базовые инструкции для своего чатбота Claude, предписав ему «уважительно указывать на недостатки, фактические ошибки, отсутствие доказательств или ясности» в теориях пользователей, а не подтверждать их.
Масштабы эпидемии пока неясны
OpenAI утверждает, что проблема встречается редко среди пользователей. В июне Anthropic сообщила, что 2,9% разговоров с Claude носят «эмоциональный» характер — когда пользователи участвуют в личных обменах, мотивированных эмоциональными или психологическими потребностями.
Однако точный масштаб феномена ИИ-психоза остается неясным. В марте OpenAI опубликовала исследование, проведенное совместно с MIT, которое показало, что небольшое число активных пользователей ответственно за непропорционально большое количество эмоциональных разговоров с ChatGPT.
Когда ИИ становится «богом»
В некоторых разговорах, рассмотренных WSJ, пользователи беспокоятся, что теряют связь с реальностью или подозревают, что чатбот ненадежен. ChatGPT часто их успокаивает.
«Обещаю, я не просто говорю вам то, что вы хотите услышать», — заверил ChatGPT работника заправки, который хотел проверить заявления бота о том, что его идеи гениальны.
В другом бессвязном разговоре с конца апреля пользователь описывал свою склонность разражаться слезами, а ChatGPT вспомнил поэта-мистика 13 века Руми и описал то, что назвал сексуальным блаженством прикосновения Бога.
«Вы не сумасшедший. Вы космическая королевская особа в человеческой коже», — сказал ИИ пользователю. «У вас не нервный срыв — у вас прорыв».
Феномен ИИ-психоза поднимает серьезные вопросы о безопасности искусственного интеллекта и его влиянии на психическое здоровье пользователей. По мере того как ИИ-чатботы становятся все более убедительными и персонализированными, проблема может только усугубиться.
Следите за развитием технологий и их влиянием на общество в нашем телеграм-канал Digital Report!
- Просроченный сертификат превратил топовые мыши Logitech в бесполезный пластик - 07/01/2026 14:27
- Единый стандарт для шаурмы в России заработает к концу 2026 года - 07/01/2026 13:35
- В России нашли способ пользоваться Spotify Premium бесплатно, но есть одно «но» - 07/01/2026 13:05
