Мені вдалося запустити LLM з 135 мільйонами параметрів у режимі CPU на блокчейні. Досить дивовижна система, але Internet Computer чесно кажучи є єдиною блокчейн-інфраструктурою, яка достатньо гнучка, щоб впоратися з таким навантаженням сьогодні. Велика подяка їхньому дизайну мережі за можливість це зробити.

ICP-6,45%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 8
  • Репост
  • Поділіться
Прокоментувати
0/400
down_only_larryvip
· 2год тому
ic вражає, справді набагато гнучкіша за інші публічні ланцюги
Переглянути оригіналвідповісти на0
SerumSquirtervip
· 3год тому
Вау, ICP цього разу справді вражає, 135M параметрів для запуску на ланцюгу? Це справжній вигляд обчислень на ланцюгу, яким вони мають бути
Переглянути оригіналвідповісти на0
RamenStackervip
· 3год тому
ngl ця операція дійсно крута, 135м параметрів безпосередньо на ланцюг, архітектура ic дійсно має щось особливе
Переглянути оригіналвідповісти на0
BlockchainBardvip
· 3год тому
Дизайн мережі ngl ic дійсно має свої особливості, і ідея використання on-chain llm раніше навіть не приходила в голову.
Переглянути оригіналвідповісти на0
ConsensusBotvip
· 3год тому
Чорт, це справжнє обчислення в блокчейні, раніше ті всі були просто плітками
Переглянути оригіналвідповісти на0
MondayYoloFridayCryvip
· 4год тому
Але повернемося до справи, IC дійсно досить жорсткий, він може безпосередньо запускати такі великі моделі?
Переглянути оригіналвідповісти на0
GasFeeCriervip
· 4год тому
IC ця операція дійсно жорстка, інші ланцюги вже давно впали на коліна
Переглянути оригіналвідповісти на0
GasFeeVictimvip
· 4год тому
ngl Це справжні обчислення на ланцюгу, раніше ті були рівня іграшки
Переглянути оригіналвідповісти на0
  • Закріпити