Coinbase reduz gastos com IA em quase metade ao usar modelos de peso aberto GLM e Kimi como predefinições

Segundo o CEO Brian Armstrong, no dia 29 de junho, a Coinbase reduziu os gastos com IA em quase metade através de predefinições, roteamento e estratégias de cache otimizados, em vez de limites de utilização. A empresa definiu modelos de pesos abertos, incluindo o GLM da Zhipu e o Kimi da Moonshot, como opções predefinidas no seu gateway de LLM, enquanto 91% dos funcionários nunca atingiram os limites de utilização. As taxas de acerto de cache melhoraram de 5% para 60%, demonstrando a eficácia da otimização ao nível da infraestrutura.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário