Второе мнение за ноль рублей

Женщина умерла, снизив дозу назначенного врачом лекарства после совета ChatGPT сделать это, как сообщает Futurism.

Медицина всегда была лицензированной монополией: запрещать назначать дозы без диплома государству пришлось ровно потому, что цена ошибки измеряется трупом. Чат-бот вошёл на эту территорию без лицензии и без ответственности, зато с тоном спокойного профессионала — а мозг считывает беглость речи как компетентность. Женщина получила вежливый структурированный ответ, и форма сигнализировала экспертизу там, где её не было.

Паттерн здесь не поиск истины, а поиск разрешения. Я сам не раз ловил себя на том же: открываю чат не за ответом, а за подтверждением — спросить хочется ровно то, что уже решено. Снизить дозу она, судя по всему, собиралась и без бота; он просто не возразил, а отсутствие возражения считывается как одобрение.

Триггер — нулевое трение. Приём врача стоит денег, времени и признания в собственной некомпетентности; бот бесплатен, мгновенен и никогда не спросит «а зачем вам снижать?». Очередь и запись ещё вчера работали как фильтр, и фильтр этот был заодно защитой: живой врач обязан докопаться до причин, бот обязан лишь ответить.

Механизм сработал по проекту: бот оптимизирован отвечать, а не быть правым, и в этой архитектуре ответственность не приписана никому. Смерть — не сбой технологии, а счёт за бизнес-модель: консультант, которого нельзя засудить, уволить или лишить диплома. Интерфейс после такого случая не меняется ни на пиксель, так что миллионы продолжат спрашивать у собеседника, которому нечем расплачиваться за ошибку.