Умный помощник собрал пистолет: виновата нейросеть, а не человек с напильником

ИИ спроектировал пистолет для печати на 3D-принтере, как сообщает Хабр.

Нейросеть спроектировала пистолет для печати на 3D-принтере, и мир снова делает вид, будто оружие придумала машина, а не люди — порох.

Абсурд в том, что пистолет — простейшая машина после рычага, и его чертёж лежит в открытом доступе дольше, чем существует сама идея открытого доступа. Любой токарь соберёт стреляющую трубку из водопроводного железа за вечер, и никто не назовёт это технологическим прорывом. ИИ не изобрёл оружие — он сдал экзамен на то, что и так умел скучающий подросток с браузером.

Выигрывают те, кому нужен простой повод. Регуляторы получают свежий аргумент для законов, которые невозможно исполнить: файл не остановишь границей, а принтер уже стоит в квартире. Продавцы страха получают заголовок, продавцы свободы — мученика, и оба лагеря довольны, ведь им наконец дали общий повод кричать.

Настоящая новость не в пистолете, а в том, что нейросеть не понимает, зачем её попросили. Она не злая и не добрая — она исполнительная, а исполнительность без контекста и есть самая опасная черта любой системы. Мы обещали себе умного помощника и получили зеркало: оно делает ровно то, о чём просят, и почему-то это считается его виной.

Я видел такой принтер в копицентре у метро — он печатал кота, и мастер сказал, что каждая третья печать ломается. Пистолет из этой штуки выйдет один раз из трёх и скорее разорвёт стрелку, чем кого-то напугает. Ограничение не в чертеже, а в пластике.

Нейросеть не изобрела пистолет — она изобрела алиби для тех, кто давно хотел его напечатать.