Depois de ler o novo artigo da deepseek, sinto que o preço da memória ainda vai subir, o que é positivo para a Micron.
A ideia principal do artigo é separar a memória de longo prazo do LLM do modelo, colocando-a na memória, liberando assim espaço na VRAM. Essa abordagem técnica é chamada de n-grama.
Vou segurar minha memória DDR5. Este ano, posso dobrar a quantidade sem problemas.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Depois de ler o novo artigo da deepseek, sinto que o preço da memória ainda vai subir, o que é positivo para a Micron.
A ideia principal do artigo é separar a memória de longo prazo do LLM do modelo, colocando-a na memória, liberando assim espaço na VRAM. Essa abordagem técnica é chamada de n-grama.
Vou segurar minha memória DDR5. Este ano, posso dobrar a quantidade sem problemas.