OpenAI and Broadcom announce chip designed for LLM inference at scale

OpenAI กับ Broadcom เปิดตัวชิป Jalapeño ที่ออกแบบมาสำหรับการทำ inference ของโมเดลภาษาใหญ่ในศูนย์ข้อมูล โดยมุ่งเน้นประสิทธิภาพต่อวัตต์ที่ดีกว่าเดิมและคาดว่าจะใช้งานได้ภายในสิ้นปีนี้