Hot French startup ZML releases free product to speed inference across lots of AI chips

สตาร์ทอัพฝรั่งเศส ZML ของผู้ได้รับรางวัล Turing Yann LeCun ได้เปิดตัวซอฟต์แวร์การอนุมานแบบฟรีที่ทำให้โมเดล LLM ต่าง ๆ สามารถทำงานบนชิปหลายประเภทได้เร็วขึ้น ลดการพึ่งพา Nvidia และช่วยให้บริษัทเลือกใช้ชิปที่ประหยัดพลังงานกว่า พร้อมเปิดตัวเซิร์ฟเวอร์ LLM inference อย่าง LLMD เพื่อเร่งการแข่งขันในตลาด inference