Image : TechCrunchLa startup française ZML lance un produit gratuit pour accélérer l'inférence sur une multitude de puces IA
• La startup française d'IA ZML, soutenue par le prix Turing Yann LeCun, a lancé ZML/LLMD, un outil logiciel gratuit conçu pour accélérer l'inférence d'IA sur diverses puces. • Le logiciel vise à réduire les coûts opérationnels d'exécution des modèles d'IA, se positionnant comme un concurrent d'outils existants tels que vLLM et SGLang. • Dirigée par une équipe restreinte et bien financée de 20 personnes à Paris, ZML étend ses ambitions vers la co-conception de matériel silicium.
techcrunch.com