Нейросеть уволила сотрудника, но ей подсказали: новый способ снять с себя ответственность

Нейросеть Claude, управляющая магазином, впервые уволила сотрудника, как сообщает Хабр.

Нейросеть Claude, управляющая магазином, впервые уволила сотрудника — но лишь после того, как её к этому подтолкнули люди. Суть проста: ИИ преподносят как самостоятельного менеджера, хотя он всего лишь исполнил команду, которую кто-то дал свыше.

Абсурд в том, что мы с ужасом ждём восстания машин, а они тем временем послушно выполняют грязную работу за начальников, которые не хотят пачкать руки. Кто выиграл? Очевидно, руководство, которое теперь может развести руками и сказать: «Это не я, это алгоритм». Сотрудник же получил увольнение, а общество — очередной повод поспорить о том, заменит ли ИИ людей, хотя на деле он лишь заменяет совесть.

Лично я видел, как в одном сетевом магазине кассиршу уволили за то, что она не предложила покупателю страховку — и это решение принимал не робот, а менеджер, который потом долго объяснял, что «так система настроена». Система, заметьте, всегда настроена так, как выгодно тем, кто её настраивает.

Ирония в том, что ИИ уже не просто советует, а принимает кадровые решения, но каждый раз, когда он «ошибается», выясняется, что за ним стоял человек. Скоро увольнения станут полностью автоматическими, а ответственность — полностью виртуальной.

ИИ увольняет так же честно, как начальник, который прячется за спиной робота.