AMD и Apple одновременно продвигают альтернативы флеш-DRAM для ИИ, сокращая затраты на память в 55 раз

По данным Citrini Research, 16 июня AMD и Apple одновременно продвигают альтернативы DRAM на основе флэш-памяти в продуктах для ИИ. AMD приобрела MEXT, чтобы оптимизировать производительность флэш-хранилища на уровне, близком к DRAM, снижая затраты на память в дата-центрах; Apple внедрила технологию «LLM in a flash», чтобы добиться аналогичной оптимизации на устройстве на периферии.

Последние исследования Citrini указывают, что требования KV cache в инференсе ИИ и использование HBM, на которые приходится 25% мощности производства DRAM, создают существенное давление на затраты на память. Стоимость флэш-хранилища составляет лишь 1/55 от стоимости DRAM, и благодаря оптимизации контроллеров, многоуровневому размещению NAND и настройкам режима ячеек оно предлагает жизнеспособные альтернативы по ёмкости и пропускной способности для edge AI.