ตาม Artificial Analysis ระบบตู้แร็คแบบระบายความร้อนด้วยของเหลว Blackwell GB300 NVL72 ของ Nvidia รองรับเอเจนต์พร้อมกันได้ 61,400 รายต่อ 1 เมกะวัตต์ของกำลังไฟฟ้า ในการทดสอบเกณฑ์ฮาร์ดแวร์สำหรับเอเจนต์ AA-AgentPerf ที่เพิ่งเปิดตัว เมื่อเทียบกับ 2,600 สำหรับ Hopper HGX H200 รุ่นก่อนหน้า เกณฑ์ชี้วัดประสิทธิภาพโดยการนำเวิร์กโฟลว์การเขียนโปรแกรมจริงกลับมาเล่นซ้ำ โดยที่เอเจนต์ AI จะย่อยสลายงานได้อย่างอิสระและวนผ่านรอบการทำงานของการจัดการไฟล์ การแก้ไขโค้ด และการทดสอบ ความสามารถในการรันพร้อมกันต่อ 1 GPU ดีขึ้น 41 เท่า

เมื่อใช้เพดานกำลังไฟฟ้าเท่ากัน ศูนย์ข้อมูลสามารถรองรับเอเจนต์พร้อมกันได้มากขึ้น 20 เท่า ซึ่งช่วยลดต้นทุนการนำไปใช้งานอย่างมีนัยสำคัญสำหรับแอปพลิเคชันด้านการเขียนโปรแกรมอัตโนมัติและงานบริการลูกค้า ขณะนี้ Instinct MI355X ของ AMD ยังตามหลังในผลการประเมินรอบแรก แม้บริษัทประเมินจะระบุว่า ผลงานของ AMD อาจดีขึ้นได้เมื่อมีการปรับแต่งเฟรมเวิร์กสำหรับการให้บริการแล้ว

news.view.source

news.article.disclaimer

news.related.news

06-13 04:13

Bernstein: สร้างดาต้าเซ็นเตอร์ AI ขนาด 1GW ด้วย Nvidia Vera Rubin มีต้นทุน 47 พันล้านดอลลาร์

06-12 19:26

นักวิจัยพบว่า AI Agents มีความเสี่ยงต่อการโจมตีแบบ Prompt Injection อัตราความสำเร็จ 79%

06-12 11:01

Fable 5 พลาดทุกงานที่ยากที่สุดในการสอบ UC Berkeley ALE ฉบับนี้ ใช้ต้นทุนมากกว่าคู่แข่ง 4-12 เท่า

06-12 11:00

Nvidia เริ่มพรีเซนต์ Vera CPU ให้กับจีน โดยราคาสูงกว่า $20K เริ่มจัดส่งเดือนสิงหาคม

06-12 07:08