Citrini Researchによると、6月16日にAMDとAppleは、AI製品においてDRAMの代替となるフラッシュメモリ方式を同時に進めています。AMDはMEXTを買収して、DRAMに近いレベルでフラッシュストレージ性能を最適化し、データセンターのメモリコストを削減しました。一方、Appleは「LLM in a flash」技術を導入して、デバイス端末側でも同様の最適化を実現しています。
Citriniの最新調査では、AI推論におけるKVキャッシュの需要と、25%のDRAM生産能力を消費するHBMが、重大なメモリコスト圧力を生んでいることが示されています。フラッシュストレージのコストはDRAMの1/55であり、コントローラの最適化、NANDスタッキング、セルモードの調整を通じて、エッジAI向けの容量と帯域の代替として現実的な選択肢になります。
