Google Mengembangkan Chip v2 yang Dibekukan untuk Mengintegrasikan Arsitektur Gemini Langsung ke Dalam Silikon, Meningkatkan Efisiensi Inference hingga 10x

Menurut The Information, Google sedang mengembangkan Frozen v2, chip server AI baru yang menyematkan arsitektur inti Gemini langsung ke dalam silikon untuk meningkatkan efisiensi inferensi hingga 10 kali. Berbeda dengan chip tujuan umum seperti GPU dan TPU buatan Google sendiri, Frozen v2 mengorbankan fleksibilitas demi efisiensi inferensi yang lebih tinggi serta konsumsi energi yang lebih rendah, dengan meng-hardcode arsitektur model ke dalam perangkat kerasnya.

Proyek ini berawal dari kekurangan mendesak kapasitas komputasi AI Google, yang telah membebani sumber daya GPU dan TPU internal serta berdampak pada beberapa pelanggan Google Cloud. Google juga telah menyetujui untuk membayar SpaceX sekitar $1 miliar per bulan untuk kapasitas komputasi AI yang disediakan oleh xAI guna menutup kesenjangan infrastruktur tersebut.