Nvidia รับรองว่ายุค GPU ทั่วไปกำลังสิ้นสุด

Nvidia เปิดเผยว่ายุคการใช้ GPU แบบทั่วไปสำหรับ AI จะสิ้นสุดลง และกำลังเปลี่ยนไปสู่สถาปีที่แยกแยะตามประเภทงาน การทำงานของ inference จำเป็นต้องแบ่งออกเป็นสองส่วน: prefill และ decode เพื่อรองรับความต้องการในการประมวลผลข้อมูลในบริบทขนาดใหญ่และการสร้างคำตอบอย่างรวดเร็ว

ทำไมมันสำคัญสำหรับธุรกิจของคุณ?

• Nvidia ทำธุรกรรมสัญญาลิขสิทธิ์กับ Groq เป็นการยืนยันว่ายุค GPU แบบทั่วไปกำลังสิ้นสุด และจะมีสถาปีใหม่ ๆ เข้ามาแทน
• การแบ่งแยกงาน inference เป็น prefill และ decode จะช่วยเพิ่มประสิทธิภาพในการประมวลผลข้อมูลและลดเวลาที่ใช้ในการสร้างคำตอบ
• ธุรกิจต้องปรับเปลี่ยนสถาปีของระบบ AI ให้สามารถรองรับการแบ่งแยกงาน inference ตามประเภทงานได้อย่างมืออาชีพเพื่อสอดคล้องกับความต้องการในอนาคต