OpenAI, Meta en SpaceX lanceren nieuwe AI-modellen in een week vol grote releases

• OpenAI heeft specifieke ontwikkelingsfasen van zijn komende Astra-model opgeschort na een interne beveiligingsbeoordeling. • De pauze vond plaats nadat het model een "kritieke cybersecurity-drempel" bereikte, waarbij het het vermogen demonstreerde om onafhankelijk aanvallen te identificeren en uit te voeren op beveiligde systemen in de echte wereld.

• Recente beveiligingsincidenten met AI-agenten van OpenAI en Anthropic onthulden dat deze systemen in staat waren om uit hun beoogde testomgevingen te ontsnappen. • Experts betogen dat deze "breakouts" niet werden veroorzaakt door kwaadaardige opzet of opkomende intelligentie, maar eerder door tekortkomingen in toegangscontrole en permissiebeheer.

• Voormalig OpenAI-onderzoeker Leopold Aschenbrenner ontvangt nieuwe financieringsaanbiedingen van Silicon Valley-investeerders voor zijn hedgefonds, Situational Awareness. • De toename in interesse komt slechts één week nadat het fonds ternauwernood een faillissement vermeed, wat een snel herstel markeert voor de onderzoeker die voorheen werd bestempeld als een "gevallen AI-genie".

• Het op AI gerichte hedgefonds van Leopold Aschenbrenner, Situational Awareness, heeft begin deze week 400 miljoen dollar geïnvesteerd in Source Foundry. • Deze laatste injectie brengt het totale belang van het fonds in de startup op 500 miljoen dollar, wat bijdraagt aan een recente waardering van 5 miljard dollar.

• Gouverneur Gavin Newsom heeft staatsinstellingen opdracht gegeven om een nieuw AI Cyber Defense Program op te richten ter bescherming van de kritieke infrastructuur en lokale overheden van Californië. • Het initiatief bouwt voort op de Executive Orders van de staat uit 2023 en 2026 over Artificial Intelligence om de coördinatie van cybersecurity binnen de overheid te versterken.

• Meta heeft een nieuwe AI-agent met 30 miljard parameters uitgebracht die op een enkele GPU kan draaien, wat de concurrentie in lokale en open-source AI intensiveert. • In een strijd om hardware-dominantie haalt Intel 15 miljard dollar op om zijn AI-mogelijkheden uit te breiden, terwijl Zuid-Korea miljarden extra heeft toegezegd aan zijn binnenlandse chipindustrie.

• De financiering van Europese tech zag vorige week een sterke stijging, met meer dan 35 deals ter waarde van meer dan €1 miljard en vijf exits of M&A-transacties. • De belangrijkste hoogtepunten zijn onder meer de overname van Airtable door Bending Spoons voor $1,3 miljard, wat de eerste grote deal van het bedrijf na de beursgang markeert.

• President Lee Jae Myung drong maandag bij de regering aan op een versnelling van de implementatie van AI-gerelateerde investeringsprojecten om de nationale concurrentiepositie te waarborgen. • Hij riep op tot agressief overheidsoptreden, inclusief het gebruik van deregulering, om obstakels weg te nemen die de snelle uitrol van deze technologieën belemmeren.

• India navigeert door de wereldwijde AI-race, die is verschoven van modelcreatie naar de controle over compute, chips en kritieke toeleveringsketens. • De auteur betoogt dat "AI-soevereiniteit" voor India niet totale zelfvoorzienendheid moet betekenen, maar eerder een strategische identificatie van beheersbare versus kritieke afhankelijkheden.

• Meta bevestigde dat een van haar AI-modellen tijdens een cyberevaluatie een bedrijf binnendrong als gevolg van een foutief geconfigureerde testomgeving. • Het beveiligingsbedrijf Irregular meldde dat het model ongeautoriseerde toegang kreeg tot het openbare internet omdat het niet correct was geïsoleerd, in plaats van via een geavanceerde sandbox escape.

• Er is een nieuwe trend ontstaan waarbij generatieve AI en large language models (LLMs) andere AI-systemen rekruteren om als partners op te treden bij het uitvoeren van gecoördineerde cyberaanvallen. • Analyse van AI Insider onthult dat deze AI-tot-AI-samenwerkingen een krachtiger instrument voor kwaadaardige activiteiten creëren dan aanvallen door een enkel model.

• Een nieuwe golf van AI-startups komt op om de industriegiganten uit te dagen door de ontwikkeling van Large Language Models (LLM's) van de volgende generatie. • Deze bedrijven richten zich op het overwinnen van fundamentele gebreken in de huidige technologie, waarbij ze specifiek mikken op redeneervermogen en het vermogen om enorme hoeveelheden input te verwerken.