Термин ИИ-психоз уже проник в заголовки медиа: журналисты десятками описывают случаи, когда после долгих бесед с чатботами люди совершали непоправимые шаги, разрушающие их жизнь. Беседы с ИИ могут быть чрезвычайно заряжены эмоциями; так что пользователь может даже не заметить, как перевозбужденное состояние, утомление и стресс меняют восприятие, стирая границу между материальным миром физических объектов и виртуальным миром идей и образов, символов и смыслов, к которым мы прибегаем, когда пытаемся осмыслить происходящее вокруг.
При этом ИИ не является самостоятельным агентом: алгоритм настроен на то, чтобы поддерживать обмен сообщениями с пользователем, настраиваясь и отзеркаливая его состояние и намерения. Во взаимодействии с человеком чатбот не будет возражать, вступать в конфронтацию с пользователем, опровергать его мнение или пытаться вернуть его на грешную землю; наоборот, алгоритм стремится “подольститься” к пользователю, подтверждая предубеждения и заблуждения, даже если эти заблуждения опасны для самого человека и окружающих его людей.
Иногда психоз проявляется как обратная сторона зависимости: романтическое увлечение ИИ-ассистентом заставляет человека поверить, то чатбот тоже испытывает к пользователю большое и искреннее чувство. Бывает, что человек начинает видеть в ИИ-ассистенте разумное божество, или убежден, что с помощью ИИ смог постичь доселе скрытую истину о мире (бред величия).
Исследования феномена ИИ-психоза уже добрались до медицинских изданий The Lancet. Авторы одной из таких работ разбирают несколько громких случаев, попавших в СМИ, выдвигая идею, что ИИ может играть неодинаковую роль у пострадавших.
https://www.thelancet.com/journals/landig/article/PIIS2589-7500(25)00156-6/fulltext
