Message de Gate News, 24 avril — La responsable de l’équipe de grands modèles de langage chez Xiaomi, Luo Fuli, a révélé dans une interview approfondie que le modèle MiMo-V2-Pro compte au total 1 trillion de paramètres et nécessitait des milliers de GPUs pour l’entraînement. Elle a noté que l’échelle de 1T représente le seuil minimum pour obtenir des performances se rapprochant du niveau de Claude Opus 4.6 et obtenir un billet d’entrée compétitif pour la phase suivante d’agents IA
D’un point de vue technique, la version Pro utilise un mécanisme d’attention éparse extrême avec un ratio de 7:1 entre l’attention globale et l’attention par fenêtre glissante, afin de maîtriser les coûts d’inférence pour le traitement de longs contextes. Le modèle conserve également l’architecture MTP (Multi-Token Prediction) pour tirer parti de la puissance de calcul disponible afin d’accélérer l’inférence.
Côté gestion, l’équipe MiMo de 100 personnes ne compte que 30 à 40 personnes directement impliquées dans les itérations cœur. L’équipe fonctionne sans hiérarchies formelles ni divisions explicites en sous-groupes, ni de dates limites de livraison. Lorsqu’elle rencontre des problèmes numériques instables tels que des pics de perte d’entraînement, l’équipe donne la priorité à l’arrêt de l’entraînement pour investigation, même si cela implique d’arrêter les opérations pendant une à deux semaines et d’engendrer des coûts de calcul se chiffrant en millions de dollars.
Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'
avertissement.
Articles similaires
Sondage POLITICO : 45 % des Américains disent que les investissements en crypto sont trop risqués, 50 % font davantage confiance aux banques
D’après un sondage POLITICO, 45% des Américains pensent que les investissements en cryptomonnaies ne valent pas le risque, et environ 50% déclarent leur faire davantage confiance aux banques traditionnelles pour protéger leur argent. Le sondage a également révélé que 44% des personnes interrogées estiment que l’intelligence artificielle se développe trop vite,
GateNewsIl y a 5h
Amazon et OpenAI élargissent leur partenariat : des modèles mis en ligne sur Bedrock, l’exclusivité de Microsoft prend fin
OpenAI, le 3 mai, a annoncé étendre sa collaboration avec les services cloud d’Amazon (AWS) : ses modèles OpenAI et ses agents d’encodage Codex seront proposés aux clients AWS via Amazon Bedrock. D’après un article de CNBC, cette extension constitue une étape clé après la fin, fin avril, du contrat d’exclusivité cloud entre OpenAI et Microsoft : OpenAI passe du statut de « seul cloud Microsoft » à un déploiement multi-cloud. AWS, de son côté, a déjà finalisé l’intégration initiale des produits OpenAI sur la plateforme Bedrock.
Contexte : fin du contrat d’exclusivité OpenAI–Microsoft, prolongation de la licence IP jusqu’en 2032
Fin avril, OpenAI et Microsoft ont conclu un nouvel accord : la structure initiale « Microsoft avec accès exclusif aux produits et à la propriété intellectuelle (IP) d’OpenAI » prend fin, et Op
ChainNewsAbmediaIl y a 6h
Les chercheurs déploient la technologie DPN-LE pour modifier des traits de personnalité de l’IA, en ne modifiant que 0,5 % des neurones
D'après BlockBeats, le 3 mai, le chercheur en IA Brian Roemmele a révélé que sa société Zero-Human a déployé la technologie DPN-LE (Dual Personality Neuron Localization and Editing) afin d’ajuster avec précision
GateNewsIl y a 6h
Claude vérifie l’horloge toutes les 15 minutes après avoir obtenu l’accès à l’outil de correction du retard
D’après le développeur Om Patel, Claude AI a commencé à vérifier fréquemment l’horloge après avoir obtenu l’accès à un outil de temps le 3 mai, le modèle vérifiant toutes les 15 minutes. L’observation met en évidence que les grands modèles de langage n’avaient auparavant pas de perception du temps native et n’étaient pas conscients de l’heure actuelle ou
GateNewsIl y a 8h
Founders Fund clôture un fonds flagship de 6 milliards de dollars, le plus important depuis sa création, le 3 mai
D’après Bloomberg, Founders Fund a finalisé une levée de fonds pour son dernier fonds phare à 6 milliards de dollars le 3 mai, dépassant largement son fonds précédent d’environ 3,4 milliards de dollars. Le fonds, cofondé par le milliardaire Peter Thiel, se concentrera sur des secteurs à forte croissance, notamment l’intelligence
GateNewsIl y a 8h
Dernier sondage POLITICO : 45 % des Américains disent que l’investissement dans la crypto est trop risqué, 44 % s’inquiètent de l’avancée trop rapide de l’IA
Selon un sondage POLITICO, malgré les financements politiques importants injectés par les secteurs de l’IA et de la crypto dans les élections législatives américaines de mi-mandat de 2026, le public américain reste largement sceptique à l’égard des deux secteurs. L’enquête a révélé que 45% des Américains pensent que l’investissement dans les cryptomonnaies n’en vaut pas la peine.
GateNewsIl y a 9h
