Гениальный стартап переоткрыл закон Мура: дешёвая память вместо дорогих мозгов

Стартап предложил заменить GPU на ядра Arm и до 128 ТБ LPDDR6, как сообщает TechRadar.

Стартап предлагает заменить дорогие GPU на ядра Arm и гигантские объёмы дешёвой LPDDR6, чтобы якобы сокрушить «стену памяти» и сделать ИИ доступным. Абсурд в том, что «дешёвая» память LPDDR6 всё равно потребует чудовищного энергопотребления и пропускной способности, а Arm-ядра для серьёзных нейросетей — как велосипед для гонок «Формулы-1». Выигрывают производители LPDDR6, которые сольют затоваренные склады, и сам стартап, который на этой шумихе соберёт очередной раунд инвестиций, пока инженеры NVIDIA тихо посмеиваются. Лично я видел, как один «прорывной» Arm-сервер для ИИ грелся так, что на нём можно было жарить яичницу, а считал он медленнее, чем калькулятор из 90-х. В реальности «дешёвый ИИ» — это оксюморон, потому что дешевизна всегда компенсируется либо скоростью, либо точностью, либо сроками. Афоризм: Экономия на процессоре — это как лечить голову гильотиной: дёшево, но пациент уже не жалуется.