Ngành AI chuyển dịch từ quy mô mô hình sang hiệu quả chi phí, Perplexity áp dụng GLM 5.2 mã nguồn mở

Theo CEO Perplexity Aravind Srinivas trong một cuộc phỏng vấn với CNBC, ngành AI đang chuyển từ việc ưu tiên quy mô mô hình sang tối ưu hiệu quả chi phí và tối ưu hóa theo từng tác vụ. Các công ty đang xây dựng các hệ thống điều phối (orchestration) có khả năng tự động chọn mô hình phù hợp nhất cho từng nhiệm vụ, thay vì dùng mô hình mạnh nhất cho mọi ứng dụng. Các ứng dụng chăm sóc khách hàng có thể không cần các mô hình đắt tiền, trong khi các tác vụ lập trình phức tạp lại đòi hỏi các mô hình thuộc phân khúc cao hơn, và các công việc doanh nghiệp thường nhật có thể được xử lý bằng các mô hình mã nguồn mở chi phí thấp.

Tuần này, Perplexity đã giới thiệu một hệ thống mới có khả năng sử dụng máy tính, được vận hành bởi mô hình mã nguồn mở GLM 5.2 của công ty AI Trung Quốc Zhipu, phản ánh xu hướng hướng tới kiến trúc AI lai. Đối tác chấm điểm benchmark Peter Fenton dự đoán rằng trong vòng 18 đến 24 tháng, hơn 90% các token AI có thể được tạo ra bởi các mô hình mã nguồn mở. CEO Ollama Jeff Morgan cho biết hơn 85% các công ty trong danh sách Fortune 500 hiện đang sử dụng nền tảng quản lý mô hình mã nguồn mở của Ollama, bao gồm cả các lĩnh vực được quản lý chặt chẽ như hàng không, bảo hiểm và y tế.