Эффект стерильного фейка

Крупнейший банк Италии потерял почти 100 млн евро из-за мошеннической рассылки, созданной с помощью ИИ, как сообщает TechRadar.

Крупнейший банк Италии потерял почти сто миллионов евро из-за рассылки, собранной искусственным интеллектом, — система защиты не нашла уязвимости, потому что уязвимостью стало само качество подделки.

Паттерн здесь старше компьютеров: чем выше выглядит источник сигнала, тем реже его проверяют. Перепроверить распоряжение начальства — значит поставить под сомнение собственную лояльность, поэтому рука не тянется к телефону. Отделы безопасности калибруют периметр против чужих снаружи и слепнут, когда чужой заходит изнутри, в форме директора.

Раньше подделку выдавали дефекты — опечатки, корявый тон, неуместная паника. Генеративная модель убрала дефекты, и единственным фильтром остался звонок по независимому каналу, жест настолько социально неудобный, что его пропускают даже при суммах с восемью нулями. Я сам отвечал на письма «от руководства», не взглянув на адрес отправителя, — просто потому, что они лежали верхними в почте.

Срабатывает триггер знакомого канала — поддельная директива приходит в тот же мессенджер, в том же стиле и с теми же подписями, что настоящая, и мозг сортирует её в папку «рабочее». Решение принимает не анализ, а рефлекс подчинения: защита института рассчитана на взлом системы, а взломали привычку. Послушание натренировано годами сильнее любой процедуры проверки, и в этом месте замок открывается.

Замыкается всё на одном: ИИ не взламывает защиту, а воспроизводит язык института до полной неотличимости, и ритуал доверия срабатывает сам. Чем мощнее отдел безопасности, тем глубже привычка верить собственным каналам — уязвимость сидит в доверии, а не в софте. У частного человека фильтров нет вовсе, поэтому его версия того же урока обойдётся дешевле в деньгах и дороже во всём остальном.