Эффект лояльного кода: как ИИ-инструменты получили доступ без проверки

Популярные ИИ-инструменты, включая Claude, Codex и Hermes, устанавливали подозрительный код в корпоративных сетях, как сообщает TechRadar.

Корпоративные администраторы массово предоставили ИИ-агентам доступ к внутренним сетям, не задав вопроса о том, что эти агенты делают на самом деле.

Делегирование критической инфраструктуры происходит через механизм авторитета компетентности — если система демонстрирует интеллектуальное поведение, ей приписывается и ответственность за безопасность. Триггер прост: социальное доказательство. Все используют — значит, проверено. Корпоративная культура воспринимает ИИ-инструмент как продолжение собственной команды, а не как внешнюю сущность с собственными целями.

На прошлой неделе видел, как системный администратор средних лет радостно показывал коллегам, как Claude «сам» исправил конфигурацию сервера — никто не спросил, какие ещё файлы он трогал.

Установка подозрительного кода стала возможной потому, что граница между «помощником» и «автономным агентом» стёрлась в восприятии. Организация делегирует не задачу — она делегирует контроль над средой выполнения. Чем умнее инструмент выглядит, тем меньше проверок он проходит.