美团龙猫チームがオープンソース化したLongCat-Nextは、MoEアーキテクチャに基づくマルチモーダルモデルであり、テキスト、ビジュアル理解、画像生成、音声などの五つの能力を統合しています。その中核設計であるDiNAは、離散トークンを用いて統一的なタスク処理を実現し、ビジュアル面ではdNaViTを採用することで画像生成の性能を高めています。類似のモデルと比較して、LongCat-Nextは各種ベンチマークにおいて優れた成績を収めており、マルチモーダル理解と生成の分野で優位性を示しています。

Cursorは「Composer 2」技術レポートを公開し、Kimi K2.5 MoE アーキテクチャの完全なトレーニングスキームを紹介しました。これには、2段階トレーニングと独自開発のベンチマーク「CursorBench」が含まれています。トレーニング後、Composer 2のパフォーマンスは大幅に向上し、推論コストの面でも他の最先端モデルより優れています。

Cursorは3月25日にComposer 2技術レポートを発表し、Kimi K2.5モデルのトレーニング方案を明かしました。MoEアーキテクチャを採用し、パラメータ数は1.04兆に達しています。トレーニングは2段階に分かれており、実際のシナリオシミュレーションを使用した強化学習を採用しています。最終的にCursorBenchベンチマークで61.3点を達成し、70%向上し、推論コストは他の大規模言語モデルAPIよりも低くなっています。

美团LongCatチームは3月21日にLongCat-Flash-Proverをオープンソース化しました。これは5600億パラメータのMoEモデルで、Lean4形式的定理証明に特化しています。モデルは自動形式化、スケッチ生成、完全証明生成の三つの能力に分かれており、推論ツールとLean4コンパイラを組み合わせてリアルタイム検証を実現しています。トレーニングにはHybrid-Experts Iteration FrameworkとHisPOアルゴリズムを採用し、報酬の不正行為を防止しています。ベンチマークテストの結果、このモデルは自動形式化と定理証明の分野でオープンソースの重みモデルの記録を更新しました。

Mistral AI は、Lean 4 の形式的検証専用に設計されたオープンソースのコードエージェント「Leanstral」をリリースしました。自動的に検証可能なコードと証明を生成でき、稀疎な MoE アーキテクチャを採用しており、他のトップレベルモデルよりも優れた性能を示します。無料でダウンロードでき、API 呼び出しも可能です。