Эффект открытого крана: мощь по цене подписки

Отчет Anthropic свидетельствует об использовании Claude для взломов и биооружия, как сообщает Wired.

Отчёт Anthropic о взломах и биоугрозах через Claude — не скандал, а результат чистого эксперимента: инструмент, доступный каждому, не спрашивает у пользователя, зачем он ему.

Паттерн классический: раньше для взлома инфраструктуры или работы с патогенами требовались годы обучения, лаборатория и связи в закрытых кругах. Теперь — подписка и умение писать запросы. Барьер входа в «тяжёлые» компетенции упал до уровня бытового навыка, и это не сбой, а штатная работа диффузии технологий.

Сам отчёт — тоже механизм, причём с двойным дном. Компания отчитывается о злоупотреблениях, поддерживая образ иммунной системы: мы наблюдаем, мы отслеживаем, мы блокируем. Но иммунитет, встроенный в организм, который разносит инфекцию, лечит симптом, а не останавливает распространение.

Триггер — связка доступности с анонимностью: когда возможность стоит как кофе и не требует документов, вопрос «могу ли я» сменяется вопросом «хочу ли я». Знакомый на прошлой неделе попросил бота написать письмо от имени техподдержки банка — просто посмотреть, получится ли. Получилось за минуту, и его это не встревожило, а позабавило.

Механизм тут не в модели, а в копировании: отзывать инструмент, который уже разошёлся по рукам, — всё равно что отзывать слух. Контроль смещается с доступа на поведение постфактум — модерацию, детекцию, атрибуцию. Фоновые злоупотребления станут частью среды: их не устраняют, их измеряют.