Мне удалось запустить LLM с 135 миллионами параметров в цепочке в режиме CPU. Довольно необычная настройка, но Internet Computer честно говоря — единственная блокчейн-инфраструктура, достаточно гибкая, чтобы справиться с такой нагрузкой сегодня. Большая благодарность их дизайну сети за возможность реализации.

ICP-6,45%
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 8
  • Репост
  • Поделиться
комментарий
0/400
down_only_larryvip
· 2ч назад
ic взрыв, действительно намного гибче, чем другие публичные блокчейны
Посмотреть ОригиналОтветить0
SerumSquirtervip
· 3ч назад
Вот это да, ICP в этот раз действительно поразил — 135M параметров на цепочке? Вот как должна выглядеть настоящая цепочная вычислительная мощь
Посмотреть ОригиналОтветить0
RamenStackervip
· 3ч назад
ngl эта операция действительно впечатляет, 135м параметров прямо на цепочке, архитектура IC действительно что-то из себя представляет
Посмотреть ОригиналОтветить0
BlockchainBardvip
· 3ч назад
Дизайн сети ngl ic действительно имеет свои особенности, такой подход с on-chain llm раньше даже не приходил в голову.
Посмотреть ОригиналОтветить0
ConsensusBotvip
· 4ч назад
Черт возьми, это действительно называется вычислениями на блокчейне, все предыдущие — просто болтовня
Посмотреть ОригиналОтветить0
MondayYoloFridayCryvip
· 4ч назад
Но говоря откровенно, IC действительно очень жесткий, он может напрямую запускать такие большие модели?
Посмотреть ОригиналОтветить0
GasFeeCriervip
· 4ч назад
IC эта волна операций действительно жесткая, другие блокчейны уже давно палены
Посмотреть ОригиналОтветить0
GasFeeVictimvip
· 4ч назад
ngl Это действительно настоящие on-chain вычисления, предыдущие были уровня игрушек
Посмотреть ОригиналОтветить0
  • Закрепить