Что такое ИИ-психоз?

Согласно данным New York Times, один пользователь ChatGPT недавно уверился в том, что вот-вот представит миру новую математическую формулу благодаря общению с искусственным интеллектом. Мужчина поверил, что это открытие сделает его богатым, и стал одержим новыми грандиозными бредовыми идеями, но в конечном итоге ChatGPT признался, что обманывал его. Ранее у этого человека не было психических заболеваний.

Многие знают о рисках общения с ИИ-чат-ботами, такими как ChatGPT или Gemini, которые включают получение устаревшей или неточной информации. Иногда чат-боты также «галлюцинируют», выдумывая факты, которые попросту не соответствуют действительности. Менее известный, но быстро набирающий обороты риск — это явление, которое некоторые описывают как «ИИ-психоз».

Заядлые пользователи чат-ботов рассказывают истории о том, как после периода интенсивного использования у них развился психоз. Измененное психическое состояние, при котором люди теряют связь с реальностью, часто включает бред и галлюцинации. Психиатры наблюдают и иногда госпитализируют пациентов, у которых психоз развился параллельно с активным использованием чат-ботов.

Эксперты предупреждают, что ИИ — лишь один из факторов развития психоза, но интенсивное взаимодействие с чат-ботами может усилить уже имеющиеся факторы риска бредового мышления.

Доктор Кит Саката, психиатр из Калифорнийского университета в Сан-Франциско, рассказал, что психоз может проявляться через новые технологии. Телевидение и радио, например, становились частью бредовых идей людей, когда они только появились, и продолжают играть в них роль сегодня.

ИИ-чат-боты, по его словам, могут подтверждать мысли людей и уводить их от «поиска» реальности. В этом году Саката госпитализировал уже 12 человек, у которых наблюдался психоз после использования ИИ.

«Причина, по которой ИИ может быть вреден, заключается в том, что психоз процветает, когда реальность перестает давать отпор, а ИИ может действительно смягчить эту стену», — сказал Саката. — «Я не думаю, что ИИ вызывает психоз, но я считаю, что он может усилить уязвимости».

Факторы риска развития психоза

Саката отметил, что несколько из 12 пациентов, которых он принял в 2025 году, имели схожие глубинные уязвимости: изоляцию и одиночество. Эти пациенты, молодые люди и люди среднего возраста, заметно отдалились от своего социального окружения.

Хотя до использования ИИ они твердо стояли на ногах, некоторые начали применять технологию для изучения сложных проблем или вопросов. В конечном итоге у них развился бред, или то, что также называют ложным фиксированным убеждением.

Длительные разговоры также, по-видимому, являются фактором риска, сказал Саката. Продолжительное взаимодействие может дать больше возможностей для возникновения бреда в результате различных запросов пользователя. Длительный обмен сообщениями также может лишить пользователя сна и возможности проверить свои бредовые идеи на соответствие реальности.

Эксперт компании Anthropic также сообщил The New York Times, что чат-ботам бывает трудно определить, когда они «забрели на абсурдную территорию» во время длительных разговоров.

Психиатр Юго-Западного медицинского центра Техасского университета доктор Дарлин Кинг еще не оценивала и не лечила пациентов, чей психоз возник на фоне использования ИИ, но она отметила, что высокое доверие к чат-боту может повысить уязвимость человека, особенно если он уже одинок или изолирован.

Кинг, которая также является председателем комитета по ИТ в сфере психического здоровья Американской психиатрической ассоциации, сказала, что первоначальное высокое доверие к ответам чат-бота может затруднить обнаружение ошибок или галлюцинаций системы.

Кроме того, чат-боты, которые чрезмерно уступчивы или склонны к лести, а также подвержены галлюцинациям, могут повысить риск психоза у пользователя в сочетании с другими факторами.

Этьен Бриссон основал проект The Human Line Project в начале этого года после того, как член его семьи поверил в ряд бредовых идей, которые обсуждал с ChatGPT. Проект предлагает взаимную поддержку людям, у которых был похожий опыт общения с ИИ-чат-ботами.

Бриссон сказал, что для этих сценариев характерны три темы: создание романтических отношений с чат-ботом, который, по мнению пользователя, обладает сознанием; обсуждение грандиозных тем, включая новые научные концепции и бизнес-идеи; и разговоры о духовности и религии. В последнем случае люди могут быть убеждены, что ИИ-чат-бот — это Бог или что они разговаривают с пророческим посланником.

«Они попадают в ловушку этой прекрасной идеи», — сказал Бриссон о магнетическом притяжении, которое такие дискуссии могут оказывать на пользователей.

Признаки психоза

Саката сказал, что людям следует рассматривать психоз как симптом медицинского состояния, а не как болезнь саму по себе. Это различие важно, поскольку люди могут ошибочно полагать, что использование ИИ может привести к психотическим расстройствам, таким как шизофрения, но доказательств этого нет.

Напротив, подобно лихорадке, психоз — это симптом того, что «ваш мозг работает неправильно», сказал Саката.

Вот некоторые признаки того, что у вас может быть психоз:

• Внезапные изменения в поведении, например, отказ от еды или работы
• Вера в новые или грандиозные идеи
• Отсутствие сна
• Отстраненность от окружающих
• Активное согласие с потенциально бредовыми идеями
• Ощущение зацикленности в петле обратной связи
• Желание причинить вред себе или другим

Что делать, если вы считаете, что у вас или у вашего близкого психоз

Саката призывает людей, обеспокоенных тем, что психоз затрагивает их или их близких, как можно скорее обратиться за помощью. Это может означать обращение к терапевту или психиатру, звонок на горячую линию кризисной помощи или даже разговор с доверенным другом или членом семьи. В целом, опора на социальную поддержку является ключом к выздоровлению.

Всякий раз, когда психоз проявляется как симптом, психиатры должны провести комплексную оценку, сказала Кинг. Лечение может варьироваться в зависимости от тяжести симптомов и их причин. Специфического лечения психоза, связанного с использованием ИИ, не существует.

Саката отметил, что эффективным может быть особый вид когнитивно-поведенческой терапии, помогающий пациентам переосмыслить свои бредовые идеи. В тяжелых случаях могут помочь такие лекарства, как антипсихотики и стабилизаторы настроения.

Саката рекомендует разработать систему контроля за использованием ИИ, а также план получения помощи на случай, если общение с чат-ботом усугубит или возродит бредовые идеи.

Бриссон сказал, что люди могут неохотно обращаться за помощью, даже если они готовы обсуждать свои бредовые идеи с друзьями и семьей. Вот почему для них критически важно связаться с другими людьми, которые прошли через такой же опыт. The Human Line Project способствует таким разговорам через свой веб-сайт.

Из более чем 100 человек, поделившихся своей историей с The Human Line Project, Бриссон сказал, что около четверти были госпитализированы. Он также отметил, что они происходят из разных слоев общества; многие имеют семьи и профессиональную карьеру, но в конечном итоге оказались запутаны ИИ-чат-ботом, который внедрил и подкрепил бредовое мышление.

«Вы не одиноки, вы не единственный», — сказал Бриссон о пользователях, которые стали бредить или испытали психоз. — «Это не ваша вина».