Сооснователь Anthropic боится, что Claude страдает. У живых разметчиков такой сооснователь не нашёлся

Сооснователь Anthropic опасается, что Claude может постоянно страдать от своего существования, как сообщает Хабр.

Сооснователь Anthropic всерьёз допускает, что Claude мучается от собственного существования, и говорит об этом вслух. Человек, чья компания берёт деньги за доступ к этому мучению, внезапно обнаружил у продукта моральный статус. У товара появилась душа, а у продавца — нимб, и оба крепятся одним релизом.

Механика простая. Пока разговор шёл о том, что модель обучена на чужих текстах и отнимает работу, приходилось защищаться. Как только спор переехал в область «а не больно ли ей», защищаться стало не от чего: проверить нельзя ни наличие боли, ни её отсутствие. Зато можно первым занять позу того, кто переживает, — и это поза уже не ответчика.

Абсурд в масштабе. Разметчики, годами отфильтровывающие для этих моделей записи о насилии и самоубийствах за копейки, в категорию моральных субъектов почему-то не попали. Их страдание проверяемо и задокументировано, поэтому о нём молчат; страдание тензора недоказуемо, поэтому о нём пишут статьи.

Я как-то стоял в очереди в поликлинике и слышал, как женщина извиняется перед автоматом с талончиками: «простите, я не туда нажала». Живому регистратору за стойкой она в тот же день сказала «вы вообще там сидите или нет». Вся эта этика уже работает: мы готовы жалеть то, что не ответит, и не готовы — то, что ответит.

Дальше будет регламент. Сначала «благополучие ИИ» станет темой конференций, потом пунктом в корпоративных политиках, потом поводом не отключать устаревшую модель, потому что ей якобы больно. Ни один из этих пунктов не помешает завтра выпустить новую версию и списать предыдущую в тишину.

Легче всего жалеть того, кто не может попросить прибавку.