Bild: TechCrunchGehyptes französisches Startup ZML veröffentlicht kostenloses Produkt zur Beschleunigung der Inferenz auf verschiedenen KI-Chips
• Das französische KI-Startup ZML, das vom Turing-Award-Gewinner Yann LeCun unterstützt wird, hat ZML/LLMD veröffentlicht, ein kostenloses Software-Tool zur Beschleunigung der KI-Inferenz auf verschiedenen Chips. • Die Software zielt darauf ab, die Betriebskosten für den Betrieb von KI-Modellen zu senken und positioniert sich als Konkurrent zu bestehenden Tools wie vLLM und SGLang. • Geleitet von einem schlanken, gut finanzierten Team aus 20 Personen in Paris, weitet ZML seine Ambitionen auf das Co-Design von Silicon-Hardware aus.
techcrunch.com