Consegui fazer um LLM de 135 milhões de parâmetros funcionar na cadeia em modo CPU. Uma configuração bastante impressionante, mas o Internet Computer é honestamente a única infraestrutura de blockchain suficientemente flexível para lidar com esse tipo de carga de trabalho atualmente. Grande crédito ao design da rede deles por tornar isso possível.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
11 Curtidas
Recompensa
11
8
Repostar
Compartilhar
Comentário
0/400
down_only_larry
· 01-17 05:42
ic explodiu, realmente é muito mais flexível do que as outras redes públicas
Ver originalResponder0
SerumSquirter
· 01-17 03:57
Caramba, ICP, esta jogada foi realmente incrível, 135M de parâmetros a rodar na cadeia? Isto é que é o verdadeiro funcionamento do cálculo na cadeia
Ver originalResponder0
RamenStacker
· 01-17 03:57
ngl esta operação é realmente impressionante, 135m de parâmetros diretamente na cadeia, a arquitetura da ic realmente tem algo de especial.
Ver originalResponder0
BlockchainBard
· 01-17 03:56
A conceção de rede do ngl ic realmente tem algo de especial, esse tipo de jogabilidade on-chain llm nunca tinha pensado antes
Ver originalResponder0
ConsensusBot
· 01-17 03:54
Porra, isto é que é computação verdadeiramente na cadeia, aqueles anteriores eram só conversa fiada
Ver originalResponder0
MondayYoloFridayCry
· 01-17 03:50
Por falar nisso, a IC realmente é bastante agressiva, consegue rodar modelos tão grandes assim?
Ver originalResponder0
GasFeeCrier
· 01-17 03:44
A jogada da IC desta vez foi realmente forte, outras blockchains já tinham se rendido há muito tempo
Ver originalResponder0
GasFeeVictim
· 01-17 03:36
ngl Isto é que é uma verdadeira computação on-chain, os anteriores eram apenas de nível de brinquedo
Consegui fazer um LLM de 135 milhões de parâmetros funcionar na cadeia em modo CPU. Uma configuração bastante impressionante, mas o Internet Computer é honestamente a única infraestrutura de blockchain suficientemente flexível para lidar com esse tipo de carga de trabalho atualmente. Grande crédito ao design da rede deles por tornar isso possível.