Consegui fazer um LLM de 135 milhões de parâmetros funcionar na cadeia em modo CPU. Uma configuração bastante impressionante, mas o Internet Computer é honestamente a única infraestrutura de blockchain suficientemente flexível para lidar com esse tipo de carga de trabalho atualmente. Grande crédito ao design da rede deles por tornar isso possível.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
10 gostos
Recompensa
10
8
Republicar
Partilhar
Comentar
0/400
down_only_larry
· 2h atrás
ic explodiu, realmente é muito mais flexível do que as outras redes públicas
Ver originalResponder0
SerumSquirter
· 3h atrás
Caramba, ICP, esta jogada foi realmente incrível, 135M de parâmetros a rodar na cadeia? Isto é que é o verdadeiro funcionamento do cálculo na cadeia
Ver originalResponder0
RamenStacker
· 3h atrás
ngl esta operação é realmente impressionante, 135m de parâmetros diretamente na cadeia, a arquitetura da ic realmente tem algo de especial.
Ver originalResponder0
BlockchainBard
· 3h atrás
A conceção de rede do ngl ic realmente tem algo de especial, esse tipo de jogabilidade on-chain llm nunca tinha pensado antes
Ver originalResponder0
ConsensusBot
· 3h atrás
Porra, isto é que é computação verdadeiramente na cadeia, aqueles anteriores eram só conversa fiada
Ver originalResponder0
MondayYoloFridayCry
· 4h atrás
Por falar nisso, a IC realmente é bastante agressiva, consegue rodar modelos tão grandes assim?
Ver originalResponder0
GasFeeCrier
· 4h atrás
A jogada da IC desta vez foi realmente forte, outras blockchains já tinham se rendido há muito tempo
Ver originalResponder0
GasFeeVictim
· 4h atrás
ngl Isto é que é uma verdadeira computação on-chain, os anteriores eram apenas de nível de brinquedo
Consegui fazer um LLM de 135 milhões de parâmetros funcionar na cadeia em modo CPU. Uma configuração bastante impressionante, mas o Internet Computer é honestamente a única infraestrutura de blockchain suficientemente flexível para lidar com esse tipo de carga de trabalho atualmente. Grande crédito ao design da rede deles por tornar isso possível.