Afbeelding: TechCrunchHot Franse startup ZML brengt gratis product uit om inferentie op diverse AI-chips te versnellen
• Franse AI-startup ZML, ondersteund door Turing Award-winnaar Yann LeCun, heeft ZML/LLMD uitgebracht, een gratis softwaretool die is ontworpen om AI-inferentie op verschillende chips te versnellen. • De software is erop gericht de operationele kosten van het draaien van AI-modellen te verlagen en positioneert zich als een concurrent voor bestaande tools zoals vLLM en SGLang. • Onder leiding van een lean, goed gefinancierd team van 20 personen in Parijs, breidt ZML haar ambities uit naar het co-design van silicium hardware.
techcrunch.com