DeepSeek lança em open-source o TileKernels, biblioteca de kernels de GPU para o treino e a inferência de grandes modelos

Notícia de Gate, 23 de Abril — A DeepSeek lançou em open-source o TileKernels sob a licença MIT, uma biblioteca de kernels de GPU escrita em TileLang para o treino e a inferência de grandes modelos de linguagem. O TileLang é uma linguagem específica de domínio desenvolvida pela equipa tile-ai para expressar kernels de GPU de alto desempenho em Python. A DeepSeek afirmou que a maioria dos kernels da biblioteca se aproximou dos limites de desempenho do hardware em densidade de computação e largura de banda de memória, com partes já implementadas em operações internas de treino e inferência.

A biblioteca inclui seis categorias de kernels: MoE (mixture of experts) gating e routing, incluindo seleção de especialistas Top-k, mapeamento token-para-especialista, e expandir/reduzir fundidos com normalização de pesos; quantização que suporta formatos FP8, FP4 e E5M6 com quantização por token, por bloco e por canal, incluindo operações fundidas SwiGLU+quantização; transposição em lote; Engram gating com propagação forward/backward de RMSNorm fundida e redução do gradiente de pesos; Manifold HyperConnection com normalização Sinkhorn e split/apply mistos; e interfaces de alto nível de autograd que envolvem kernels de baixo nível em camadas treináveis.

Engram e Manifold HyperConnection são componentes proprietários da arquitectura do modelo da DeepSeek, com detalhes de implementação divulgados publicamente pela primeira vez. A biblioteca requer GPUs de arquitectura NVIDIA SM90 ou SM100 (H100/H200 ou série Blackwell), CUDA Toolkit 13.1 ou superior, e PyTorch 2.10 ou superior.

Isenção de responsabilidade: As informações contidas nesta página podem ser provenientes de terceiros e não representam os pontos de vista ou opiniões da Gate. O conteúdo apresentado nesta página é apenas para referência e não constitui qualquer aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou o carácter exaustivo das informações e não poderá ser responsabilizada por quaisquer perdas resultantes da utilização destas informações. Os investimentos em ativos virtuais implicam riscos elevados e estão sujeitos a uma volatilidade de preços significativa. Pode perder todo o seu capital investido. Compreenda plenamente os riscos relevantes e tome decisões prudentes com base na sua própria situação financeira e tolerância ao risco. Para mais informações, consulte a Isenção de responsabilidade.

Related Articles

O marketplace de NFTs da Cardano, JPG Store, anuncia encerramento a 23 de Maio

Mensagem do Gate News, 24 de Abril — O JPG Store, um marketplace de NFTs do ecossistema Cardano, anunciou no X que encerrará a 23 de Maio devido a operações insustentáveis. Tanto o JPG Store como a sua plataforma Comet irão cessar os serviços do site, embora os smart contracts subjacentes irão permanecer

GateNews12m atrás

A EtherFi propõe a injecção de 5000 ETH no fundo de resgate rsETH para evitar que a inadimplência se propague no ecossistema DeFi

A EtherFi Foundation apresentou, a 24 de abril, uma proposta de governação, autorizando a transferência de até 5.000 ETH do tesouro da DAO para um fundo de resgate inter-protocolos relacionado com o incidente da vulnerabilidade do rsETH, para colmatar uma falha de garantia e evitar que a Aave e outros mercados de empréstimos DeFi apresentem créditos incobráveis. Esta medida faz parte da iniciativa de ação conjunta de resgate da EtherFi como parte de «DeFi United».

MarketWhisper12m atrás

Pavel Durov Anuncia uma Redução de 6x nas Taxas de Transacção da Rede TON Ao Longo de Uma Semana

Mensagem de notícias da Gate, 24 de abril — Pavel Durov, fundador do Telegram, anunciou que as taxas de transacção da rede TON vão descer 6 vezes ao longo da próxima semana, ficando em 0.00039 TON (aproximadamente $0.0005) por transacção e permanecendo fixas independentemente do volume da rede. Após a redução, a maioria

GateNews16m atrás

ether.fi Conclui Reforço de Segurança da Ponte Cross-Chain weETH, Bloqueia o Multisig da LayerZero e Eleva o Limite do DVN para 4/4

Mensagem da Gate News, 24 de Abril — a ether.fi concluiu o reforço de segurança a nível de protocolo para a ponte cross-chain weETH na maioria das cadeias de implementação, sem que tenham sido identificadas vulnerabilidades. As atualizações eliminam proativamente potenciais riscos e concedem à ether.fi controlo total sobre todos os parâmetros de segurança da ponte.

GateNews1h atrás

Pyth Network muda para um modelo orientado por receitas e elimina o Pythnet até 2026

Mensagem da Gate News, 23 de abril — A Pyth Network (PYTH), um fornecedor de infraestruturas de dados para criptomoedas, anunciou uma grande reformulação do seu modelo económico, passando de um sistema de incentivos baseado em tokens para uma estratégia de crescimento orientada por receitas. De acordo com a proposta OP-PIP-100, a infraestrutura existente da rede,

GateNews5h atrás

Perspetiva do Preço da ADA à medida que a Cardano concretiza um Acordo Tokenizado na LSE

Principais conclusões A Cardano tokenizou um produto de resseguro Hannover Re e listou-o na Bolsa de Valores de Londres, expandindo a utilização da blockchain em mercados institucionais regulados. O preço do ADA mantém-se dentro de um cunho descendente, com o suporte em $0.2400 ainda intacto, enquanto a resistência perto de $0.2550 e $0.2824 l

CryptoNewsLand5h atrás
Comentar
0/400
Nenhum comentário