OpenAI Mengurangi Biaya Inferensi Lebih dari 50%, Penggunaan GPU Turun dari Puluhan Ribu Menjadi Ratusan

Menurut sumber yang dikutip oleh media massa, OpenAI berhasil mencapai terobosan teknis besar awal bulan ini, memangkas biaya inferensi lebih dari 50% dan secara drastis mengurangi kebutuhan GPU. Insinyur internal mempresentasikan terobosan tersebut, mengungkapkan bahwa pendekatan optimasi baru mengurangi penggunaan GPU hanya menjadi ratusan unit saat menangani permintaan pengunjung ChatGPT, dibandingkan dengan puluhan ribu chip kelas atas yang sebelumnya diperlukan.
Penafian: Informasi di halaman ini mungkin berasal dari sumber pihak ketiga dan hanya untuk referensi. Ini tidak mewakili pandangan atau pendapat Gate dan bukan merupakan nasihat keuangan, investasi, atau hukum. Perdagangan aset virtual melibatkan risiko tinggi. Mohon jangan hanya mengandalkan informasi di halaman ini saat membuat keputusan. Untuk detailnya, lihat Penafian.
Komentar
0/400
Tidak ada komentar