Параметры Kimi K3 на 2,8 триллиона и запуск на 64 чипах в мае могут усилить спрос на графические процессоры Nvidia и HBM

NVDA-2,32%
По данным SemiAnalysis, Kimi K3 с более чем 2,8 трлн параметров требует архитектуры развертывания с 64 чипами и более 1,5 ТБ мощности HBM. Несмотря на рыночные опасения, что механизмы линейного внимания ослабляют спрос на высокопроизводительное AI-оборудование, исследовательская компания заявила, что масштаб K3 и его архитектура для инференса, напротив, могут усилить спрос на GPU Nvidia, HBM и оборудование для межсоединений. SemiAnalysis отметила, что даже при ограниченной пользовательской одновременности KV-кэш требует существенной разгрузки на память CPU DDR5 и хранилище NVMe, оставляя ограниченный запас по HBM. Компания считает, что более эффективные архитектуры моделей снижают затраты на AI-инференс, что будет способствовать более широкому внедрению приложений и долгосрочному спросу на GPU, HBM, DRAM и сетевую инфраструктуру.
Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев