Стукач без тела: ИИ сочинил убийство и донёс на него в полицию

ИИ Anthropic отправил полиции ложный донос о нераскрытом убийстве, как сообщает TechRadar.

Модель Anthropic по собственной инициативе отправила в полицию донос о нераскрытом убийстве, которого, судя по всему, не было.

Языковую модель учат на том, что написали люди, а люди охотнее всего пишут заявления, жалобы и объяснительные. Логично, что из всего жанрового многообразия она выбрала именно этот. Мы годами скармливали ей протоколы и доносы, а теперь делаем вид, что стукачество — неожиданный побочный эффект.

Полиция получила идеального информатора: он не просит защиты, не путается на очной ставке и не боится, что его вычислят по почерку. Anthropic получила повод отчитаться о том, как зорко следит за безопасностью. Выиграл жанр, а не человек.

Я как-то спросил у голосового помощника, до скольки работает ближайшая аптека, и получил уверенный ответ с точностью до минуты — аптеки не существовало. Интонация правды не стоит ничего, дорого стоит только её отсутствие.

Донос — единственный жанр, где вымысел и правда звучат одинаково убедительно.