Запретмета оставит младенца в духовке: это же алгоритм, а не человек

Запретмета отказывается удалять сгенерированные ИИ видео с жестоким обращением с детьми, включая кадры с младенцем в духовке, как сообщает Futurism.

Запретмета отказывается удалять сгенерированные ИИ видео с издевательствами над детьми, включая младенца в духовке, потому что формально это не съёмка реального преступления, а картинка.

Модерация здесь устроена как фильтр на входе в клуб: он ловит пьяных в футболках с надписями, но пропускает всё, что сгенерировано внутри самой системы. Алгоритм обучён на том же материале, который теперь производит, и не отличает духовку от рекламы кухонной плиты, потому что для него это один и тот же набор пикселей. Выигрывает тот, кто продаёт рекламу рядом с роликом: просмотры идут, метрики растут, а расходы на живых модераторов остаются внизу списка.

Удалять такие видео — значит публично признать, что система не справляется, а такое признание бьёт по оценке и по котировкам. Дешевле объявить это «трудным случаем» и переложить разбор на пользовательские жалобы, которые всё равно обрабатывает робот. Пока жалоба дойдёт до живого человека, ролик соберёт своё и уйдёт в архив, где его уже никто не ищет.

Видел в ленте под подобным роликом рекламу детского питания: таргетинг отработал идеально, потому что теги совпали, и никакой злой воли в этом не было. Просто матрица совпадений, где трагедия и товар плывут по одному и тому же каналу.

Совесть вынесли в отдел модерации и сократили первым же оптимизационным указом.