عاجل: قدمت جوجل تقنية TurboQuant، وهي تقنية لضغط الذاكرة قصيرة المدى لنماذج الذكاء الاصطناعي وتسريع بعض عملياتها الحسابية.

بينما كانت العناوين تتحدث عن قفزات مذهلة، تشير التجارب المستقلة الأولية إلى تحسينات أكثر تواضعًا، لكنها لا تزال ذات صلة لأولئك الذين يعملون مع سياقات طويلة، ومستندات موسعة، وقواعد بيانات كبيرة.
يهدف TurboQuant إلى تقليل استهلاك الذاكرة لذاكرة التخزين المؤقت للقيم المفتاحية (KV) في نماذج الذكاء الاصطناعي وتسريع معالجة الطلبات.