Los 2,8 billones de parámetros de Kimi K3 y su despliegue con 64 chips podrían reforzar la GPU de Nvidia y la demanda de HBM.

NVDA-2,32%
Según SemiAnalysis, Kimi K3, con más de 2,8 billones de parámetros, requiere una arquitectura de despliegue de 64 chips y más de 1,5 TB de capacidad de HBM. A pesar de las preocupaciones del mercado de que los mecanismos de atención lineal debilitan la demanda de hardware de IA de gama alta, la firma de investigación señaló que la escala de K3 y su arquitectura de inferencia podrían, en realidad, impulsar la demanda de GPUs de Nvidia, HBM y el equipamiento de interconexión. SemiAnalysis indicó que, incluso con una concurrencia de usuarios limitada, el caché KV exige un desacoplamiento sustancial hacia la memoria DDR5 de la CPU y el almacenamiento NVMe, dejando poco margen para la HBM. La firma cree que las arquitecturas de modelos más eficientes reducen los costes de inferencia de la IA, impulsando la adopción más amplia de aplicaciones y la demanda a largo plazo de GPU, HBM, DRAM y de la infraestructura de red.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios