छवि: TechCrunchचर्चा में मौजूद फ्रेंच स्टार्टअप ZML ने कई AI चिप्स पर इन्फरेंस (inference) की गति बढ़ाने के लिए मुफ्त प्रोडक्ट लॉन्च किया
• ट्यूरिंग अवार्ड विजेता Yann LeCun द्वारा समर्थित फ्रेंच AI स्टार्टअप ZML ने ZML/LLMD जारी किया है, जो विभिन्न चिप्स पर AI इन्फरेंस को तेज करने के लिए डिज़ाइन किया गया एक मुफ्त सॉफ्टवेयर टूल है। • इस सॉफ्टवेयर का लक्ष्य AI मॉडल चलाने की परिचालन लागत (operational costs) को कम करना है, और यह खुद को vLLM और SGLang जैसे मौजूदा टूल्स के प्रतिस्पर्धी के रूप में पेश कर रहा है। • पेरिस में 20 लोगों की एक छोटी लेकिन अच्छी तरह से वित्तपोषित टीम के नेतृत्व में, ZML अब सिलिकॉन हार्डवेयर के को-डिज़ाइन (co-design) की ओर अपनी महत्वाकांक्षाएं बढ़ा रहा है।
techcrunch.com