🚨 KHỞI ĐỘNG LẠI PHẦN CỨNG AI

TurboQuant của Google vừa giảm tiêu thụ bộ nhớ LLM hơn 6 lần, giải quyết nút thắt cổ chai lớn nhất trong hiệu suất AI.
Điều này thay đổi cuộc chơi vì AI không còn bị giới hạn bởi phần cứng nhiều như trước nữa.
Và người chiến thắng bất ngờ có thể là Apple, vốn đã gặp khó khăn với AI trên thiết bị do hạn chế về bộ nhớ.
Nếu các mô hình có thể chạy hiệu quả trên thiết bị, phân phối sẽ bùng nổ trong chớp mắt và AI chuyển từ đám mây sang hàng tỷ thiết bị.