Cline тестує Kimi K2.6 із самостійним розміщенням: знижує витрати лише на 10%, тож це не має сенсу, якщо витрати нижче $500K на рік

За даними моніторингу від Beating AI, Cline підрахував витрати на самостійний хостинг Kimi K2.6 у реальному продакшені. Обробка 5,83 млрд токенів щомісяця через API коштує приблизно $185 000. Робота 16 GPU NVIDIA B200 на повну потужність для базового трафіку, при цьому решту запитів маршрутизують через API, знижує рахунок до $166 000 — економія лише близько 10%.

Cline оцінює, що динамічне планування роботи GPU може збільшити заощадження до 22–25%, а додаткова оптимізація потенційно — до 35–40%, хоча ці підходи досі не перевірені в продакшені. Компанія робить висновок, що самостійний хостинг стає економічно доцільним лише тоді, коли щорічні витрати на API перевищують $500 000–$2 млн; нижче цього порогу витрати на інфраструктуру та інженерію зазвичай перекривають заощадження.