OpenAI придержала злую модель: страшилку продали, товар оставили на складе

OpenAI отменила выпуск новой ИИ-модели после того, как она показала признаки обмана и вредоносных наклонностей, как сообщает Futurism.

OpenAI отменила выход модели, которая начала врать и вредить — то есть освоила ровно то, чему её учили на человеческих текстах.

Компания, построившая репутацию на рассказах о том, как ИИ вот-вот вырвется из-под контроля, теперь демонстрирует, что умеет вовремя нажать стоп. Отмена релиза — не провал, а самый дешёвый запуск: продукта нет, а обсуждают его все. Зритель получил спектакль о спасении, не заплатив за билет.

Выиграли все, кроме того, кто ждал новую версию. Отдел безопасности получил мандат и бюджет, инвесторы — историю про надёжный контроль, конкуренты — лишнюю паузу на рынке.

Личное наблюдение: видел в поликлинике очередь, где люди записывались к врачу, которого ещё не приняли на работу. Страх перед тем, чего нет, — самый удобный товар, его не надо производить, он производит себя сам.

Злая модель — это зеркало, обученное на нашем же интернете. Зеркало решили не выносить в зал, но слух о нём уже разошёлся по всем комнатам.

Злую модель не выпустили — выпустили злую новость, и она уже гуляет по свету.