Синдром пассажира: доверил агенту почту — потерял паранойю

Исследование показало, что люди, доверяющие ИИ-агентам, чаще попадаются на фишинговые письма, как сообщает Futurism.

Делегирование писем ИИ-агенту работает как анестезия: вместе с утомительной проверкой входящих отключается и сам рефлекс что-либо проверять.

Паттерн воспроизводится одинаково: человек пару недель доверяет агенту сортировать почту, составлять ответы, оценивать входящие — и психика списывает бдительность в расходы. Внимание — дорогой ресурс, и система экономит: зачем сканировать каждое письмо, если «умный ассистент» уже это делает. Так формируется привычка не смотреть.

Механизм — перенос доверия с объекта на посредника. Раньше подозрение цеплялось за саму ссылку, теперь подозрением заведует машина, а человек переезжает в кресло пассажира. Я поймал себя на том же с автоплатежами: через месяц перестал открывать квитанции — просто вижу списание и листаю дальше.

Ловушка срабатывает на письме, стилизованном под рутину: платёжка, уведомление о блокировке карты, «ваш заказ не доставлен». Она не обязана быть изощрённой — попадает в глаз, который давно разучился щуриться. В стране, где фишинг поставлен на промышленные рельсы, такое письмо придёт быстро.

Вывод: механизм не в глупости пользователя, а в архитектуре делегирования — каждая переданная машине функция вычитается из личного контура защиты. Атакующему не нужно взламывать агента: достаточно, чтобы человек привык, что подозревать за него уже кто-то согласился.