DeepSeek 開源 TileKernels:大型模型訓練與推理用 GPU Kernel 庫

Gate News 訊息,4 月 23 日 — DeepSeek 已在 MIT 許可證下開源 TileKernels,這是一個以 TileLang 編寫的 GPU kernel 庫,用於大型語言模型的訓練與推理。TileLang 是 tile-ai 團隊所開發的領域特定語言,用於在 Python 中表達高效能的 GPU kernel。DeepSeek 表示,該程式庫中的多數 kernel 已接近在運算密度與記憶體頻寬方面的硬體效能上限,其中部分已部署於內部的訓練與推理作業。

該程式庫包含六類 kernel:MoE (專家混合) 的 gating 與路由,包括 Top-k 專家選擇、token-to-expert 對映,以及帶權重正規化的融合 expand/shrink;支援量化的格式包含 FP8、FP4 與 E5M6,並提供逐 token、逐區塊與逐通道的量化,包含融合的 SwiGLU+量化運算;batch transpose;Engram gating,並融合 RMSNorm 前向/反向傳播與權重梯度歸約;Manifold HyperConnection,採用 Sinkhorn 正規化與混合的 split/apply;以及高階 autograd 介面,將低階 kernel 封裝為可訓練層。

Engram 與 Manifold HyperConnection 是 DeepSeek 模型架構的專有元件,實作細節首次向公眾公開。該程式庫需要 NVIDIA SM90 或 SM100 架構的 GPU (H100/H200 或 Blackwell 系列)、CUDA Toolkit 13.1 或更高版本,以及 PyTorch 2.10 或更高版本。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

比特幣獎金擴大:折扣帶來與薪資連動的獎勵供雇主使用

Fold Holdings 透過新的雇主獎金方案,擴大了比特幣在職場薪酬中的應用。此項推展將與薪資掛鉤的激勵措施,轉化為日常 BTC 採用的潛在分配管道。 重點整理: Fold 推出 BTC 獎金,擴大雇主採用的途徑。 企業獲得

Coinpedia11分鐘前

Aave 提議向 DeFi United 提供 25,000 ETH,以協助 Kelp DAO 受損事件的救濟

Aave 服務供應商於週五提出一項治理提案,擬從該協議的 DAO 貢獻 25,000 ETH—價值近 $58 百萬—給 DeFi United,這是一項協同的救援行動,旨在於 Kelp DAO 被利用事件後恢復 rsETH 的支撐。所提議的捐獻將有助於彌補尚未補足的

Crypto Frontier17分鐘前

摩根士丹利推出穩定幣儲備基金,定位為產業儲備管理者

Gate 新聞訊息,4 月 25 日 — 摩根士丹利投資管理 (MSIM) 已推出一檔穩定幣儲備投資組合基金 (MSNXX),這是一檔政府貨幣市場基金,專為穩定幣發行商設計,讓其能夠安全持有用以支撐其代幣化法幣版本的儲備。該基金僅投資於

GateNews23分鐘前

Fluent 以太坊第二層主網正式啟動,推出 BLEND 代幣並提供 $50M 首日流動性

Gate News 消息,4 月 25 日——Fluent 是一個以太坊第二層網絡,於週五推出其主網以及原生 BLEND 代幣,並在首日承諾流動性中提供 $50 百萬。該網絡採用融合式執行,並具備一種架構,使得為不同虛擬機器打造的應用程式能在同一條鏈的狀態內運作。USDnr,Fluent 的原生穩定幣,由合作夥伴 Nerona 構建,產生可累積至協議的 T-bill 收益。

GateNews1小時前

比特幣開發者 Paul Sztorc 宣布以 1:1 BTC 交換的 eCash 硬分叉,並引發社群爭議

Gate News 訊息,4 月 25 日——比特幣開發者 Paul Sztorc 宣布推出 eCash,這是一個比特幣硬分叉網路,將允許 BTC 持有者在網路啟用後以 1:1 的比例將其持有資產交換為 eCash 代幣。Layer 1 節點軟體將幾乎是比特幣核心(Bi

GateNews3小時前

Aave 確保 69,576 ETH 援助承諾,填補 rsETH 復原中的 5,505 ETH 缺口

Gate News 消息,4 月 25 日 — 據鏈上分析師 Yu Jin 表示,Aave 已獲得總計 69,576 ETH 的援助承諾,用於彌補 rsETH 事件造成的損失,僅剩 5,505 ETH 的缺口。貸款協議已動用其自身儲備貢獻 25,000 ETH (約 57.75 百萬美元)

GateNews6小時前
留言
0/400
暫無留言