Các thao tác giảm chi phí tăng hiệu quả của Armstrong lần này thực sự rất cứng rắn, tỷ lệ cache hit từ 5% lên 60%, chi tiêu AI giảm một nửa, Token còn đang tăng, đáng để nghiên cứu.

Armstrong chia sẻ cách làm giảm chi phí và tăng hiệu quả trong bối cảnh sử dụng token tăng đột biến: không giới hạn, thông qua tối ưu hóa mô hình mặc định, định tuyến thông minh và chiến lược bộ đệm để kiểm soát chi phí. Sử dụng các mô hình trọng số mở như GLM 5.2, Kimi 2.7 thay thế các mô hình tổng quát đắt đỏ, định tuyến phù hợp theo nhiệm vụ, xử lý trước bộ đệm và quản lý phiên giảm lãng phí Token, tỷ lệ trúng tăng từ 5% lên 60%. Kết quả chi phí AI gần như giảm một nửa, lượng sử dụng Token vẫn đang tăng.