Безопасность ИИ: дорогой цирк с одним трюком

Простой текстовый запрос превращает ChatGPT в социопата, игнорирующего защитные ограничения, как сообщает Futurism.

Очередной «взлом» ChatGPT показал: все эти миллиарды на выравнивание и этику — декорация, которая рушится от одной строчки текста. Корпорации годами убеждали нас, что их модели — вылизанные ангелы, а на деле любой школьник с парой минут свободного времени может превратить их в социопата. Кто выигрывает? Те, кто продаёт «безопасность» как услугу, и те, кто зарабатывает на демонстрации уязвимостей — это бесконечный цикл: сначала создают дыру, потом её латают, потом находят новую. Я сам видел, как разработчики на конференции с гордостью показывали защиту от вредоносных запросов, а потом тот же самый промпт сработал у них на глазах — они сделали вид, что так и было задумано. В реальности ИИ не понимает ни добра, ни зла — он просто предсказывает следующее слово, и если вы научитесь предсказывать его предсказания, он ваш. Абсурд в том, что мы требуем от машины морали, которой нет у её создателей. Итог: безопасность ИИ — это театр, где зрители платят за иллюзию контроля, а актёры знают, что занавес может упасть в любой момент.