โอเพนเอไอลดต้นทุนการอนุมานลงมากกว่า 50% การใช้งาน GPU ลดลงจากหลายหมื่นเหลือเพียงหลายร้อย

ตามแหล่งข่าวที่สื่ออ้างถึง OpenAI ประสบความสำเร็จในการพัฒนาเทคโนโลยีครั้งใหญ่เมื่อต้นเดือนนี้ โดยลดต้นทุนการอนุมาน (inference) ลงมากกว่า 50% และลดความต้องการ GPU ลงอย่างมาก วิศวกรภายในได้นำเสนอความก้าวหน้าดังกล่าว โดยเผยให้เห็นว่าแนวทางการเพิ่มประสิทธิภาพแบบใหม่ลดการใช้ GPU เหลือเพียงหลายร้อยหน่วยเมื่อจัดการกับคำขอจากผู้เยี่ยมชม ChatGPT เมื่อเทียบกับที่ก่อนหน้านี้ต้องใช้ชิปประสิทธิภาพสูงหลายหมื่นชิป
news.article.disclaimer
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น