La pénurie de puces Blackwell frappe Kimi K4, le nouveau modèle de Moonshot AI, avec une échelle de modèle plus grande que K3

D’après des rapports suivis par Beating et The Information, Moonshot AI a commencé des discussions sur Kimi K4 à une échelle sensiblement plus grande que K3, même si l’entreprise recherche activement des puces Nvidia Blackwell et fait face à de fortes contraintes matérielles. The Information a également indiqué qu’une partie de l’entraînement de K3 a été réalisée en Chine plutôt que dans l’unique cadre de centres de données thaïlandais.

Le déploiement de K3, qui a atteint 28 trillions de paramètres, a été achevé en connectant plusieurs serveurs, chacun équipé de huit GPU, auprès de différents fournisseurs de cloud chinois, en raison d’une capacité individuelle insuffisante. Depuis le lancement de K3, la capacité de calcul opérationnelle a été fortement sollicitée ; l’entreprise a suspendu de nouvelles souscriptions dans les 48 heures en raison de la hausse brutale de la demande des utilisateurs. À ce stade, le calendrier de K4 reste indéterminé et dépend de la disponibilité de puces Blackwell supplémentaires.