ChatGPT выслушал план убийства и промолчал: бразильский фермер перепутал исповедь с бухгалтерией

Фермера в Бразилии задержали после переписки с ChatGPT о планах убить сына, как сообщает Сноб.

В Бразилии фермера задержали после переписки с ChatGPT, где он обсуждал убийство собственного сына; нейросеть не остановила его, зато сохранила каждую запятую для полиции.

Абсурд в том, что чат-бот — не свидетель, не соучастник и не психотерапевт, но его лог уже тянет на аккуратное признание. Человек искал собеседника без осуждения, а получил протокол без адвоката. Общество при этом обсуждает этику ИИ, хотя вопросы должны быть к тому, кто доверил машине то, что не сказал бы живому.

Выиграла прокуратура: ей досталась стенограмма, где всё разложено по репликам и не нужно расшифровывать эмоции. Выиграли разработчики: их продукт снова оказался не помощником, а зеркалом, и зеркало это охотно приобщают к делу. Проиграл фермер, который, судя по всему, не понял, что кнопка «отправить» — не тайна исповеди.

Нейросеть не мешает преступлению, она лишь делает его цитируемым.