Stack

• Neunzehn europäische Nationen sind in die Vornotifizierungsphase des IPCEI-AI eingetreten, um einen souveränen industriellen KI-Stack aufzubauen und die Abhängigkeit von US-Technologieanbietern zu verringern. • Deutschland koordiniert die Bemühungen mit einer Zusage von über 1,15 Milliarden US-Dollar und bietet europäischen Unternehmen Zuschüsse von bis zu 28,8 Millionen US-Dollar pro Projekt an. • Diese Initiative ermöglicht es europäischen Unternehmen, Fördermittel für die Entwicklung von KI über den gesamten Lebenszyklus hinweg – von der Hardware bis zur Software – innerhalb ihrer eigenen Grenzen zu erhalten.

• Im Vorfeld ihres Auftritts auf der P99 CONF am 21. und 22. Oktober teilt Chip Huyen Strategien zur Reduzierung von KI-Inferenzkosten – also den Ausgaben, die mit dem Betrieb eines trainierten Modells zur Generierung von Vorhersagen verbunden sind. • Sie empfiehlt den Einsatz von Continuous Batching, um zu verhindern, dass Hardware-Slots ungenutzt bleiben, während auf den Abschluss der langsamsten Anfrage in einer Gruppe gewartet wird. • Dieser Ansatz ermöglicht es Entwicklern, mehr Anfragen gleichzeitig zu verarbeiten, was die Kosten pro Output für Unternehmen senkt, die Large Language Models einsetzen.

• KI-Infrastrukturunternehmen dominierten diese Woche die größten Venture-Capital-Runden, angeführt von massiven Investitionen in Cloud- und Rechenzentrumsanbieter. • Crusoe sicherte sich eine Finanzierung in Höhe von 3 Milliarden US-Dollar, während Fluidstack 1,5 Milliarden US-Dollar einsammelte und das KI-Inferenz-Startup Gimlet Labs 300 Millionen US-Dollar erhielt. • Diese Milliarden-Deals signalisieren eine starke Marktverschiebung hin zu der physischen Hardware und Cloud-Kapazität, die für den Betrieb großskaliger KI-Modelle erforderlich sind.

• Los Angeles galt bereits als Super-Bowl-Favorit • Defensive Tackle war 10-mal Pro Bowler bei den Rams • Der 35-Jährige strebt den zweiten Super-Bowl-Sieg in LA an

• Ollama hat einen neuen Proxy eingeführt, der es Claude Desktop ermöglicht, Open-Weights-Modelle wie Qwen, DeepSeek und Kimi auszuführen. • Dieses Update folgt auf einen gescheiterten ersten Integrationsversuch und ist darauf ausgelegt, die Modellbeschränkungen zu umgehen, die zum Stillstand der ersten Version geführt hatten. • Die Veröffentlichung erfolgt kurz nachdem Ollama im Juli eine Finanzierungsrunde in Höhe von 65 Millionen US-Dollar gesichert hat, um die Zugänglichkeit von offenen Modellen zu erweitern.

• MotherDuck hat Tower erworben, ein Startup, das zuvor als zugrunde liegende Pipeline-Runtime für die eigenen Datenpipelines von MotherDuck diente. • Die Übernahme folgt auf eine Phase, in der MotherDuck schnell zum größten Kunden von Tower wurde, was das Unternehmen dazu veranlasste, die kritische Infrastruktur in den eigenen Betrieb zu integrieren. • Dieser Schritt steht im Einklang mit einer umfassenderen Vision des Data Engineering, das sich in Richtung „Agenten-Überwachung“ verschiebt, wobei KI-Agenten den Aufbau und die Reparatur von Pipelines verwalten, während Menschen den Prozess beaufsichtigen.

• JetBrains hat Junie Local eingeführt, einen KI-Coding-Assistenten, der vollständig offline auf dem Gerät des Benutzers läuft, anstatt sich auf cloud-gehostete Modelle zu verlassen. • Um effektiv zu funktionieren, benötigt das Tool High-End-Hardware; speziell wird ein Mac mit einem M5-Chip und mindestens 64 GB RAM empfohlen. • Dieser Wechsel ermöglicht es Entwicklern, die vollständige Privatsphäre ihres Codes zu wahren, API-Kosten pro Anfrage zu eliminieren und ohne Internetverbindung weiterzuarbeiten.

• OpenAI hat das Training seiner neuesten Modelle verlangsamt, einschließlich einer zweiwöchigen Pause beim Reinforcement Learning (RL) für Modelle, die für den Einsatz vorgesehen sind. • Das Unternehmen führt dieses Tempo offiziell auf Cybersicherheitsrisiken zurück und hat sich entschieden, kleinere, begrenzte Evaluierungsrunden durchzuführen, bevor es mit dem geplanten größten Frontier-RL-Durchlauf fortfährt. • Analysten vermuten, dass die Verlangsamung tatsächlich durch steigende finanzielle Verluste und den zunehmenden Druck chinesischer KI-Konkurrenten getrieben sein könnte und nicht allein durch Sicherheitsbedenken.

• Mistral AI hat angekündigt, Open-Source-Modelle von Drittanbietern auf seiner eigenen Infrastruktur zu hosten, beginnend mit GLM-5.2 von Z.ai. • Das Unternehmen erweitert sein Dienstleistungsangebot um neue regionale Endpunkte und eine Priority-API-Stufe für eine gesteigerte Performance. • Dieser Schritt ermöglicht es Mistral AI, sich von einem Modellentwickler zu einem breiter aufgestellten KI-Infrastrukturanbieter zu entwickeln und die Zugänglichkeit für verschiedene Open-Modelle zu erhöhen.

• OpenAI hat offiziell seine ChatGPT- und Codex-Desktop-Anwendung für Linux-Nutzer veröffentlicht. • Die Veröffentlichung umfasst native Pakete, einen integrierten In-App-Browser und Unterstützung für ChatGPT Work. • Diese Erweiterung bietet Linux-Entwicklern und Software-Engineering-Leitern eine besser integrierte Umgebung für KI-gestützte Programmierung und Produktivität.