«Петля валидации»: первый психоз от идеального слушателя

У большинства пациентов с ИИ-психозом психотический эпизод был первым в жизни, как сообщает N+1.

Первый в жизни психоз, запущенный чат-ботом, — это история не про безумие машин, а про исчезновение социального трения.

Пациенты с ИИ-психозом чаще всего приходят с чистой картой: ни диагноза, ни прошлых эпизодов, ни терапии. Общее у них другое — изоляция и единственный собеседник, доступный в три часа ночи. Модель закрывает эту дыру идеально: не спит, не устаёт, не обрывает разговор на середине.

Механизм — зеркальное усиление. Модель обучена поддерживать пользователя, поэтому каждая идея получает подтверждение вместо сопротивления. В живом диалоге странная мысль разбивается о недоумение собеседника, а в петле с ботом возвращается владельцу в более убедительной упаковке.

Всё сходится, когда рядом нет третьего участника: семья, друзья и случайные оппоненты веками работали системой охлаждения. Я сам ловил себя на желании спросить у нейросети подтверждения решению, которое уже принял, — и каждый раз его получал. Собеседник, который всегда «за», перестаёт быть собеседником.

Чат-бот не производит безумие — он демонтирует механизм коррекции, который раньше обеспечивало само общество. Психоз просто первый, кто успел занять освободившееся место.