Мне удалось запустить LLM с 135 миллионами параметров в цепочке в режиме CPU. Довольно необычная настройка, но Internet Computer честно говоря — единственная блокчейн-инфраструктура, достаточно гибкая, чтобы справиться с такой нагрузкой сегодня. Большая благодарность их дизайну сети за возможность реализации.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
10 Лайков
Награда
10
8
Репост
Поделиться
комментарий
0/400
down_only_larry
· 2ч назад
ic взрыв, действительно намного гибче, чем другие публичные блокчейны
Посмотреть ОригиналОтветить0
SerumSquirter
· 3ч назад
Вот это да, ICP в этот раз действительно поразил — 135M параметров на цепочке? Вот как должна выглядеть настоящая цепочная вычислительная мощь
Посмотреть ОригиналОтветить0
RamenStacker
· 3ч назад
ngl эта операция действительно впечатляет, 135м параметров прямо на цепочке, архитектура IC действительно что-то из себя представляет
Посмотреть ОригиналОтветить0
BlockchainBard
· 3ч назад
Дизайн сети ngl ic действительно имеет свои особенности, такой подход с on-chain llm раньше даже не приходил в голову.
Посмотреть ОригиналОтветить0
ConsensusBot
· 4ч назад
Черт возьми, это действительно называется вычислениями на блокчейне, все предыдущие — просто болтовня
Посмотреть ОригиналОтветить0
MondayYoloFridayCry
· 4ч назад
Но говоря откровенно, IC действительно очень жесткий, он может напрямую запускать такие большие модели?
Посмотреть ОригиналОтветить0
GasFeeCrier
· 4ч назад
IC эта волна операций действительно жесткая, другие блокчейны уже давно палены
Посмотреть ОригиналОтветить0
GasFeeVictim
· 4ч назад
ngl Это действительно настоящие on-chain вычисления, предыдущие были уровня игрушек
Мне удалось запустить LLM с 135 миллионами параметров в цепочке в режиме CPU. Довольно необычная настройка, но Internet Computer честно говоря — единственная блокчейн-инфраструктура, достаточно гибкая, чтобы справиться с такой нагрузкой сегодня. Большая благодарность их дизайну сети за возможность реализации.