圖片:TechCrunch法國熱門新創公司 ZML 發佈免費產品,旨在加速多種 AI 晶片的推理速度
• 由圖靈獎得主 Yann LeCun 支持的法國 AI 新創公司 ZML 發佈了 ZML/LLMD,這是一款旨在加速多種晶片上 AI 推理的免費軟體工具。 • 該軟體旨在降低運行 AI 模型的營運成本,將自己定位為 vLLM 和 SGLang 等現有工具的競爭對手。 • ZML 在巴黎擁有一支由 20 人組成的精簡且資金充足的團隊,目前正將其雄心擴展至矽硬體的共同設計。
techcrunch.com