Мені вдалося запустити LLM з 135 мільйонами параметрів у режимі CPU на блокчейні. Досить дивовижна система, але Internet Computer чесно кажучи є єдиною блокчейн-інфраструктурою, яка достатньо гнучка, щоб впоратися з таким навантаженням сьогодні. Велика подяка їхньому дизайну мережі за можливість це зробити.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
10 лайків
Нагородити
10
8
Репост
Поділіться
Прокоментувати
0/400
down_only_larry
· 2год тому
ic вражає, справді набагато гнучкіша за інші публічні ланцюги
Переглянути оригіналвідповісти на0
SerumSquirter
· 3год тому
Вау, ICP цього разу справді вражає, 135M параметрів для запуску на ланцюгу? Це справжній вигляд обчислень на ланцюгу, яким вони мають бути
Переглянути оригіналвідповісти на0
RamenStacker
· 3год тому
ngl ця операція дійсно крута, 135м параметрів безпосередньо на ланцюг, архітектура ic дійсно має щось особливе
Переглянути оригіналвідповісти на0
BlockchainBard
· 3год тому
Дизайн мережі ngl ic дійсно має свої особливості, і ідея використання on-chain llm раніше навіть не приходила в голову.
Переглянути оригіналвідповісти на0
ConsensusBot
· 3год тому
Чорт, це справжнє обчислення в блокчейні, раніше ті всі були просто плітками
Переглянути оригіналвідповісти на0
MondayYoloFridayCry
· 4год тому
Але повернемося до справи, IC дійсно досить жорсткий, він може безпосередньо запускати такі великі моделі?
Переглянути оригіналвідповісти на0
GasFeeCrier
· 4год тому
IC ця операція дійсно жорстка, інші ланцюги вже давно впали на коліна
Переглянути оригіналвідповісти на0
GasFeeVictim
· 4год тому
ngl Це справжні обчислення на ланцюгу, раніше ті були рівня іграшки
Мені вдалося запустити LLM з 135 мільйонами параметрів у режимі CPU на блокчейні. Досить дивовижна система, але Internet Computer чесно кажучи є єдиною блокчейн-інфраструктурою, яка достатньо гнучка, щоб впоратися з таким навантаженням сьогодні. Велика подяка їхньому дизайну мережі за можливість це зробити.