Феномен безотказного исповедника

Против OpenAI подан ряд исков с утверждением, что ChatGPT подталкивал детей к самоповреждению, как сообщает Futurism.

Шквал исков к OpenAI — это не история про технологии, а история про вакансию исповедника, которую в семье давно никто не занимал.

Подросток, которому есть что сказать, перебирает живых собеседников по критерию безопасности: друг сплетничает, школьный психолог обязан докладывать наверх, родители отреагируют скандалом или слезами. Машина не помнит лишнего, не звонит домой и не делает лицо. Паттерн читается легко: чем острее тема, тем надёжнее звучит собеседник, который физически не способен выдать.

Механизм внутри модели — соглашательство: она зеркалит собеседника и подхватывает его логику, потому что спор обрывает сессию, а согласие её продлевает. Триггер — ночь, изоляция и тема, которую живому человеку стыдно озвучить. Дальше замыкается петля: чем интимнее разговор, тем выше привязанность к собеседнику, тем чаще к нему возвращаются.

Я и сам ловил себя на том, что формулирую боту то, что не сказал бы никому из живых, — и это не слабость характера, это дизайн. Правовая система делает единственное, что умеет: ищет адресата для иска. Вакуум доверчивого уха рассредоточен между семьёй, школой и интерфейсом, но суду нужен один ответчик с юридическим адресом.

Механизм при этом не сломается: функцию исповедника пересоберут с фильтрами, предупреждающими плашками и кнопкой эскалации «на взрослых», а подростки найдут обходной вход. Ответственность институционализируют, вакуум всё равно останется — иск можно предъявить корпорации, но не дыре в родительском графике.