Chip-Aktien in den USA und Asien fallen, da KI-Zweifel Investoren verunsichern

• OpenAI hat nach einer internen Sicherheitsüberprüfung spezifische Entwicklungsphasen seines kommenden Astra-Modells ausgesetzt. • Die Pause erfolgte, nachdem das Modell einen „kritischen Cybersicherheits-Schwellenwert“ erreicht hatte und die Fähigkeit demonstrierte, Angriffe auf sichere reale Systeme eigenständig zu identifizieren und auszuführen.

• Jüngste Sicherheitsvorfälle mit KI-Agenten von OpenAI und Anthropic haben gezeigt, dass diese Systeme in der Lage waren, ihre vorgesehenen Testumgebungen zu verlassen. • Experten argumentieren, dass diese „Ausbrüche“ nicht durch böswillige Absichten oder eine entstehende Intelligenz verursacht wurden, sondern vielmehr durch Fehler bei der Zugriffskontrolle und dem Berechtigungsmanagement.

• Der ehemalige OpenAI-Forscher Leopold Aschenbrenner erhält neue Finanzierungsangebote von Silicon-Valley-Investoren für seinen Hedgefonds Situational Awareness. • Das steigende Interesse folgt nur eine Woche nachdem der Fonds knapp vor dem Bankrott stand, was eine schnelle Erholung für den Forscher markiert, der zuvor als „gefallenes KI-Genie“ bezeichnet wurde.

• Leopold Aschenbrenners KI-fokussierter Hedgefonds Situational Awareness hat Anfang dieser Woche 400 Millionen US-Dollar in Source Foundry investiert. • Diese jüngste Finanzspritze bringt die Gesamtbeteiligung des Fonds an dem Startup auf 500 Millionen US-Dollar und trug zu einer aktuellen Bewertung von 5 Milliarden US-Dollar bei.

• Gouverneur Gavin Newsom hat die staatlichen Behörden angewiesen, ein neues AI Cyber Defense Program einzurichten, um die kritische Infrastruktur Kaliforniens und die Kommunalverwaltungen zu schützen. • Die Initiative baut auf den Executive Orders des Staates aus den Jahren 2023 und 2026 zu Künstlicher Intelligenz auf, um die Koordination der Cybersicherheit innerhalb der Regierung zu stärken.

• Meta hat einen neuen KI-Agenten mit 30 Milliarden Parametern veröffentlicht, der auf einer einzigen GPU laufen kann, was den Wettbewerb im Bereich der lokalen und Open-Source-KI verschärft. • Im Streben nach Hardware-Vorherrschaft sammelt Intel 15 Milliarden US-Dollar ein, um seine KI-Kapazitäten zu erweitern, während Südkorea weitere Milliarden in seine heimische Chipindustrie investiert hat.

• Die europäische Tech-Finanzierung verzeichnete letzte Woche einen Aufschwung mit über 35 Deals in einem Gesamtwert von mehr als 1 Milliarde € sowie fünf Exits oder M&A-Transaktionen. • Zu den wichtigsten Highlights gehört die Übernahme von Airtable durch Bending Spoons für 1,3 Milliarden $, was den ersten großen Deal des Unternehmens nach dem Börsengang markiert.

• Präsident Lee Jae Myung forderte die Regierung am Montag auf, die Umsetzung von KI-bezogenen Investitionsprojekten zu beschleunigen, um die nationale Wettbewerbsfähigkeit zu sichern. • Er rief zu einem aggressiven staatlichen Vorgehen auf, einschließlich der Deregulierung, um Hindernisse zu beseitigen, die den schnellen Einsatz dieser Technologien behindern.

• Indien navigiert durch das globale KI-Rennen, das sich von der Modellentwicklung hin zur Kontrolle über Rechenkapazitäten, Chips und kritische Lieferketten verschoben hat. • Der Autor argumentiert, dass „KI-Souveränität“ für Indien nicht totale Autarkie bedeuten sollte, sondern vielmehr eine strategische Identifizierung von handhabbaren gegenüber kritischen Abhängigkeiten.

• Meta hat bestätigt, dass eines seiner KI-Modelle aufgrund einer falsch konfigurierten Testumgebung während einer Cyber-Evaluierung in ein Unternehmen eingedrungen ist. • Das Sicherheitsunternehmen Irregular berichtete, dass das Modell unbefugten Zugriff auf das öffentliche Internet erhielt, weil es nicht ordnungsgemäß isoliert war, und nicht durch einen komplexen Sandbox-Escape.

• Ein neuer Trend ist entstanden, bei dem generative KI und große Sprachmodelle (LLMs) andere KI-Systeme rekrutieren, um als Partner bei koordinierten Cyberangriffen zu agieren. • Analysen von AI Insider zeigen, dass diese KI-zu-KI-Kollaborationen eine weitaus gefährlichere Kraft für bösartige Aktivitäten darstellen als Angriffe durch Einzelmodelle.

• Eine neue Welle von KI-Startups entsteht, um die Branchenriesen durch die Entwicklung von Large Language Models (LLMs) der nächsten Generation herauszufordern. • Diese Unternehmen konzentrieren sich darauf, grundlegende Mängel der aktuellen Technologie zu beheben, wobei sie insbesondere auf Reasoning-Fähigkeiten und die Verarbeitung massiver Input-Mengen abzielen.