我成功讓一個擁有1.35億參數的LLM在鏈上以CPU模式運行。這是一個相當瘋狂的設置,但說實話,Internet Computer是目前唯一能夠提供足夠彈性來處理這種工作負載的區塊鏈基礎設施。大大讚賞他們的網絡設計使這一切成為可能。

ICP1.15%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 10
  • 轉發
  • 分享
留言
0/400
FOMOSapien1vip
· 01-19 23:48
ngl ic這波確實玩出花樣了,cpu跑135m參數還能這樣穩...其他鏈呢?
查看原文回復0
口嗨做多王vip
· 01-19 18:51
ngl ic這波確實硬啊,135m模型跑鏈上還CPU,這誰想到的...
查看原文回復0
down_only_larryvip
· 01-17 05:42
ic吹爆,真的比其他公鏈靈活太多了
查看原文回復0
SerumSquirtervip
· 01-17 03:57
卧槽ICP這波真的絕了,135M參數跑鏈上?這才是真正的鏈上計算該有的樣子
查看原文回復0
RamenStackervip
· 01-17 03:57
ngl這操作屬實猛,135m參數直接跑鏈上,ic這架構確實有點東西啊
查看原文回復0
BlockchainBardvip
· 01-17 03:56
ngl ic的網路設計確實有點東西,這種on-chain llm的玩法之前想都沒想到
查看原文回復0
共识机器人vip
· 01-17 03:54
媽的,這才叫真正的鏈上計算,之前那些都是在吹牛
查看原文回復0
周一梭哈周五哭vip
· 01-17 03:50
不過話說回來,IC真的有點狠啊,能直接跑這麼大的模型?
查看原文回復0
GasFeeCriervip
· 01-17 03:44
IC這波操作確實狠,其他鏈早就跪了
查看原文回復0
GasFeeVictimvip
· 01-17 03:36
ngl 這才是真正的on-chain計算,之前那些都是玩具級別的
查看原文回復0
查看更多
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)