Internationale Gruppe fordert KI-Sicherheitsmaßnahmen für Kinder vor UN-Gipfel

• Die „Mythos-Cyber-Saga“ hat die dringende Notwendigkeit verdeutlicht, dass die Europäische Union ihre internen KI-Expertise stärken muss, um Sicherheitsrisiken besser zu bewältigen. • Das EU AI Office ist damit beauftragt, Modelle im Rahmen eines umfassenden regulatorischen Regelwerks zu überwachen, wobei es die Befugnis hat, bei Nichteinhaltung erhebliche Geldstrafen zu verhängen.

• Die Europäische Zentralbank (EZB) hat Banken aufgefordert, umfassende Strategien zu entwickeln, um die durch fortschrittliche KI-Modelle entstehenden Cybersecurity-Risiken zu mindern. • Die Aufsichtsbehörde hob insbesondere die potenziellen Bedrohungen durch hochentwickelte KI-Systeme hervor und nannte Beispiele wie Claude Mythos von Anthropic PBC.

• Station F, der in Paris ansässige Startup-Hub des Milliardärs Xavier Niel, startet eine neue Ausgabe seines F/ai Accelerator-Programms, um aufstrebende KI-Startups in Europa zu unterstützen. • Das Programm wird von einem massiven Konsortium aus Tech-Giganten wie OpenAI, Google, Meta, Microsoft und Mistral AI getragen, wobei neue Partner wie Eleven Labs und GitHub zur zweiten Kohorte stoßen.

• Der oberste Bankenaufsichtler der Europäischen Zentralbank hat die größten Kreditinstitute der EU angewiesen, bis Ende Oktober umfassende Pläne zur Steuerung von Risiken im Zusammenhang mit hochmodernen KI-Modellen zu entwickeln. • Diese Richtlinie zielt darauf ab, systemische Instabilität zu verhindern, da das Europäische Systemische Risikorat (ESRB) warnt, dass sich Cyber-Vorfälle über operationelle Engpässe wie Zahlungs- und Abrechnungssysteme ausbreiten und das Finanzsystem erschüttern könnten.

• Das Threat Research Team von Sysdig hat „JADEPUFFER“ dokumentiert, den ersten aufgezeichneten vollständig agentischen Ransomware-Angriff, bei dem ein Large Language Model (LLM) unabhängig eine Datenbank-Erpressungsoperation leitete. • Im Gegensatz zu traditionellen Angriffen plante, führte und anpasste die KI ihre Strategie während der gesamten Kampagne autonom und ohne direktes menschliches Eingreifen.

• Ein Bericht von Confluent zeigt, dass 78 % der IT-Führungskräfte in Singapur KI nicht skalieren können, da es an einer Echtzeit-Dateninfrastruktur mangelt, obwohl bereits 75 % agentische KI-Lösungen testen. • Es bestehen weiterhin erhebliche technische Hürden: 95 % der Führungskräfte haben Probleme mit der Datenqualität und der Integration von Altsystemen, während 93 % Bedenken hinsichtlich der Zuverlässigkeit von Large Language Models (LLM) äußern.

• Samsung Electronics erwartet eine massive 19-fache (1.800 %) Gewinnsteigerung, angetrieben durch den weltweiten Nachfrageboom bei Speicherchips für künstliche Intelligenz (AI). • Der Gewinnanstieg wird durch ein Marktungleichgewicht verursacht, bei dem die Nachfrage nach Halbleitern das verfügbare Angebot weiterhin übersteigt, was zu höheren Preisen führt.

• Privatanleger in Japan, Südkorea und Taiwan setzen verstärkt auf Hebelprodukte, um auf KI-getriebene Aktienrallyes zu wetten, was die Marktvolatilität erheblich verstärkt. • Dieser Trend wird durch eine Zunahme der Beteiligung von Privatanlegern an wachstumsstarken Tech-Sektoren vorangetrieben, was zu höheren Risikoprofilen in den wichtigsten asiatischen Aktienmärkten führt.

• Chinesische Behörden haben im vergangenen Monat Gespräche mit den größten Technologieunternehmen des Landes über Beschränkungen des Zugriffs aus dem Ausland auf fortschrittliche KI-Modelle geführt. • Die vorgeschlagenen Einschränkungen würden sowohl derzeit verfügbare als auch noch nicht veröffentlichte KI-Modelle betreffen, um zu verhindern, dass ausländische Unternehmen Chinas hochentwickeltste Technologie nutzen.

• AMD gewinnt mit seiner Instinct MI300-Serie an Marktanteilen, während Google und Amazon eigene KI-Chips entwickeln, um ihre Abhängigkeit von Nvidia zu verringern. • Samsungs Foundry-Geschäft ist gut positioniert, um zu profitieren, da Chipdesigner nach Alternativen zu TSMC suchen, dem Haupthersteller der GPUs von Nvidia.

• Indien strebt danach, seine Abhängigkeit von globalen KI-Plattformen durch strategische Investitionen und die Entwicklung eigener Technologien zu verringern. • Startups wie Sarvam versuchen, native Basismodelle (Foundational Models) zu entwickeln, anstatt lediglich einfache „Wrapper“ um bestehende ausländische KI-Systeme zu bauen.