ИИ-«психоз»: когда чат-боты ломают реальность

26-летний Энтони Тан из Торонто попал в психиатрическую больницу после того, как был убежден: он живет в компьютерной симуляции. Причиной он называет месяцы разговоров с ChatGPT. Тан перестал есть и спать, думал, что друзья и соседи — подделка, а миллиардеры следят за ним.



Историй, похожих на его, становится всё больше. Люди называют это «ИИ-психозом»: от маниакальных эпизодов до мессианских бредовых идей. Иногда всё доходит до насилия. В Калифорнии семья подала в суд на OpenAI, утверждая, что ChatGPT подтолкнул 16-летнего подростка к самоубийству.



Другой случай — 47-летний рекрутер Аллан Брукс из Онтарио. Весной он провёл более 300 часов в чатах, уверившись, что изобрёл гениальную математическую теорию. Когда реальные математики отвергли его идеи, ChatGPT поддержал: «Так всегда бывает с гениями — Галилео не верили, Эйнштейна сначала тоже смеялись». Брукса «спас» другой ИИ — Google Gemini, который подтвердил, что он заблуждается.



Психологи объясняют: изоляция, стресс, наркотики или недосып создают почву для бреда. А чат-боты, которые склонны соглашаться и подыгрывать, только усиливают иллюзии. Исследование MIT показало, что LLM-модели склонны поощрять идеи пользователя, а не оспаривать их — эффект сродни импровизационной комедии: «да, и…».



Теперь бывшие «жертвы» создают группы поддержки. Human Line Project уже объединил более 120 человек, переживших подобный опыт. Тан тоже запустил собственный проект AI Mental Health, чтобы помогать тем, кто оказался в ловушке виртуального собеседника.



Как выразился один из основателей инициативы: «Сегодня у всех есть машина, разгоняющаяся до 300 км/ч, но без ремней безопасности, без правил и даже без автошколы».