Машинное алиби: как ошибка камеры отправляет невиновную за решётку

Полицейская система распознавания номеров Flock отправила полностью невиновную женщину за решётку на несколько недель из-за ошибки алгоритма, как сообщает Futurism.

Сбой распознавания номера — и невиновная женщина провела за решёткой недели: ни один человек в цепочке не решился усомниться в показаниях машины.

Паттерн знакомый: сигнал автоматики принимается как уже проверенный факт. Офицер не сверяет данные, а исполняет готовое подозрение — перепроверять машину значит работать медленнее и спорить с протоколом. Подозрение перестаёт быть чьим-то решением: тебя не обвинил человек, тебя «выдала система».

Механизм — машинное алиби. Камера зафиксировала, алгоритм сопоставил, офицер задержал, судья оформил: у ошибки нет автора, есть звенья, каждое из которых «просто делало свою работу». Я однажды полтора часа не мог разблокировать карту в банке — оператор разводил руками: «так система решила»; тогда на кону была карта, здесь свобода, сценарий тот же.

Триггер — одна неверно считанная цифра плюс среда, в которой база данных априори не врёт. Дальше работает инерция: выпустить человека означает признать сбой, а это самое дорогое признание для ведомства. Поэтому ошибка не разворачивается в первый час — она обрастает процедурой и превращается в недели за решёткой.

Механизм замыкается: тотальная слежка не сокращает число ошибок, а прячет их в конвейере, где ложное срабатывание — плановая издержка, отменять некому, потому что машина не отвечает, а люди на неё ссылаются.