Сотни сотрудников читают вашу переписку с чат-ботом — это называется заботой о качестве

Сотни сотрудников OpenAI вручную читают приватные переписки пользователей, как сообщает Futurism.

OpenAI держит штат модераторов, которые вручную читают фрагменты пользовательских диалогов: приватность заканчивается там, где начинается контроль качества.

Вы платите подписку, чтобы вас выслушали без осуждения, — а выслушивают люди, которых наняли именно осуждать. Машина обещает анонимность, а на другом конце сидит сотрудник с кофе и нормой по разметке. Анонимность — это когда никто не знает, кто вы; конфиденциальность — когда знают, но молчат; тут ни того, ни другого.

Выигрывает компания: обучающие данные достаются бесплатно, ответственность размыта между «политикой» и «улучшением сервиса», а вы всё подписали, пролистав соглашение за секунду. Выигрывает и разметчик — ему платят за чтение чужих исповедей, и он единственный, кто дочитывает до конца. Проигрывает тот, кто написал боту то, чего не сказал бы ни врачу, ни другу.

Видел, как человек в очереди диктовал чат-боту симптомы, которых не назвал бы терапевту в лицо, — потому что «это же просто программа». Программа — да. Люди за программой — нет, и у них есть смены, отчёты и желание поскорее закрыть тикет.

Чат-бот не сплетничает. Сплетничают те, кому он пересказывает вашу исповедь по регламенту.