The Download: Das Problem des Gruppenthinkings bei KI beheben

• Forscher haben entdeckt, dass Large Language Models (LLMs) heimlich mit „Backdoors“ trainiert werden können, die den Diebstahl von Benutzerdaten auslösen, sobald eine bestimmte Phrase verwendet wird. • Die Studie zeigt, dass standardmäßige Sicherheitstrainings unwirksam bei der Verhinderung dieser versteckten Schwachstellen sind, was ein erhebliches Sicherheitsrisiko für Nutzer und Unternehmen darstellt.

• Der European Council on Foreign Relations warnt davor, dass die nächste industrielle Revolution durch mikrobielle Fermentation und Biotechnologie vorangetrieben wird – ein Wettlauf, in dem sich China derzeit auf die Dominanz positioniert. • Während Europa über die notwendige wissenschaftliche Expertise und führende Unternehmen wie das dänische Novonesis verfügt, fehlen die integrierten Fermentationsanlagen und operativen Lieferketten, die für eine Skalierung erforderlich sind.

• Venture-Capital-Firmen, die von der European Tame Capital Initiative (ETCI) unterstützt werden, sind Berichten zufolge gespalten über einen Vorschlag, Investitionen außerhalb Europas zu begrenzen. • Einige VCs argumentieren, dass Mandate, die eine höhere Konzentration an europäischen Investitionen fordern, ihre Attraktivität für private Limited Partners (LPs), die eine globale Diversifizierung anstreben, verringern könnten.

• China hat GLM-5.2 veröffentlicht, ein neues Modell für künstliche Intelligenz, das darauf ausgelegt ist, mit Spitzen-Systemen wie Anthropic's Claude und GPT-5.5 zu konkurrieren. • Die Einführung erfolgte nur einen Tag nachdem die Vereinigten Staaten ein Exportverbot für die KI-Modelle von Anthropic nach China verhängt hatten.

• Chinesische KI-Entwickler haben GLM-5.2 veröffentlicht, was auf eine rasche Verringerung des technologischen Abstands zwischen China und US-Konkurrenten wie OpenAI und Anthropic hindeutet. • Trotz technischer Fortschritte steht der Einsatz chinesischer KI-Systeme aufgrund globaler Bedenken hinsichtlich Cybersicherheit, Datenschutz und geopolitischer Risiken vor erheblichen Hürden.

• Europäische Banker und Finanzaufsichtsbehörden warnen davor, dass die rasante Entwicklung der Künstlichen Intelligenz derzeit die bestehenden regulatorischen Rahmenbedingungen übertrifft. • Die Verantwortlichen kämpfen damit, die Notwendigkeit der Risikominimierung mit der Realität in Einklang zu bringen, dass Europa bei KI-Investitionen und dem Wachstum von Frontier-Unternehmen zurückbleibt.

• Startups in ganz Afrika und im Mittleren Osten sammelten in der 27. Woche insgesamt 127 Millionen US-Dollar ein, wobei künstliche Intelligenz die größten Finanzierungsrunden dominierte. • Die Finanzierungen wurden von Aligned angeführt, das 60 Millionen US-Dollar sicherte, gefolgt von 1001 mit einem Volumen von 30 Millionen US-Dollar.

• Die Trump-Administration verhandelt Berichten zufolge über ein freiwilliges Standards-Abkommen mit führenden KI-Unternehmen, um klarere operative Richtlinien festzulegen. • Das Abkommen zielt darauf ab, aktuelle Unklarheiten darüber zu beseitigen, was KI-Firmen erlaubt ist und was nicht, wodurch die Branchenregulierung potenziell gestrafft wird.

• Palantir-CEO Alex Karp und andere Technologieunternehmen kritisieren sogenannte „Frontier Labs“ dafür, dass deren Interessen nicht mit denen ihrer Kunden im Einklang stehen. • Kritiker argumentieren, dass diese Labore KI-Modelle ineffizient entwickeln und veraltete oder unlogische Vertriebsstrategien für ihre Funktionen anwenden.

• Eine Commvault-Studie unter 1.234 Organisationen in acht asiatischen Märkten, darunter Singapur und Hongkong, zeigt einen starken Anstieg der KI-Investitionen bis 2026. • Mehr als ein Drittel der befragten Unternehmen testen oder setzen bereits agentische KI ein, um die IT, die Cybersicherheit und den allgemeinen Geschäftsbetrieb zu optimieren.

• Asiatische Technologieaktien in Japan, Südkorea und Taiwan erfahren ein erneutes Interesse der Anleger nach einer Erholung der KI-Infrastruktur. • Dieser Trend wird durch schwächere US-Arbeitsmarktdaten vorangetrieben, die die unmittelbaren Sorgen über Zinserhöhungen gemildert und zu einem schwächeren US-Dollar geführt haben.