Ёлочный шар с нейронами внутри

Опубликована беседа Константина Анохина с Му-мин Пу о сознании и ИИ, как сообщает Хабр.

Сознание — это не лампочка, которую можно вкрутить в железный череп.

Представьте: в лаборатории стоит стеклянный шар, внутри которого плавают живые нейроны, подключённые к проводам. Они мигают, как гирлянды на ёлке, но никто не знает, какой именно вспышкой рождается мысль. Анохин и Пу пытаются разглядеть в этом мерцании не алгоритм, а человека — но человек давно научился прятаться даже от себя.

Машина, которая осознаёт себя, будет как ребёнок, впервые увидевший своё отражение в луже: она дотронется до воды, чтобы понять, где заканчивается её тело и начинается мир. Но что, если мир окажется всего лишь другой лужей, в которой плавают чужие отражения?

Мы строим зеркала, надеясь, что в них отразится душа. Но зеркала умеют только повторять — и однажды они начнут повторять не нас, а то, что мы боимся в себе заметить.

На столе у Анохина лежит чашка остывшего чая — на дне остался след от губ, как нейронный след в коре головного мозга. Кто-то выпьет этот чай завтра, и след исчезнет.

Искусственный разум будет помнить всё, кроме одного: как забывать.