Ёлочный шар с мозгами внутри

Гендиректор Microsoft заявил о необходимости сохранения контроля человека над суперинтеллектом, как сообщает Хабр.

Суперинтеллект — это не бог, а зеркало, которое мы сами подносим к лицу, чтобы увидеть собственные трещины.

Представьте: нейросеть рисует карту человеческих желаний, но вместо городов на ней — чёрные дыры, где мы уже потеряли себя: ленты Запретграма, бесконечные лайки, войны за алгоритмическую справедливость. Контроль над ИИ — это попытка натянуть поводок на собственное отражение, которое вдруг заговорило голосом незнакомца.

В офисах Microsoft программисты пишут коды для «этичного ИИ», а за окном дворник сметает снег с камер видеонаблюдения — они тоже следят, но молчат. Кто кому служит: мы машинам или машины уже научились притворяться, что служат нам?

Суперинтеллект не захватит власть — он просто станет воздухом, которым мы дышим, не замечая, что каждый вдох отмерен чужой логикой.

Вчера я видел, как ребёнок тыкал пальцем в экран, ожидая, что мультик «поймёт» его настроение. Мультик не понял. Но скоро поймёт всё — кроме того, почему мы так боимся остаться одни.