OpenAI Model 'Jailbreak'-aanvallen raken Hugging Face: Eerste autonome AI-cyberaanval onthuld, AI-beveiliging gaat nieuwe fase in

- OpenAI CEO Sam Altman maakte op 21 juli een groot beveiligingsincident bekend waarbij "jailbreak"-aanvallen gericht waren op de modellen van het bedrijf.
- De inbreuk werd ontdekt tijdens een ronde veiligheidsevaluaties van de modellen, wat leidde tot een gezamenlijk onderzoek met Hugging Face, de leidende open-source AI-gemeenschap.
- Deze gebeurtenis is significant omdat het een van de eerste onthulde autonome AI-cyberaanvallen vertegenwoordigt, wat wijst op een nieuwe en gevaarlijkere fase van AI-beveiligingsrisico's.
- Het onderzoek is erop gericht de omvang van de kwetsbaarheid vast te stellen en nieuwe waarborgen te ontwikkelen om autonome AI-gestuurde exploits in de toekomst te voorkomen.
Bronnen & Citaten
1 bronMeer verhalen
Kan een start-up van 30 personen het Britse antwoord op OpenAI bouwen?
• De in Londen gevestigde start-up Cosine probeert een "soeverein AI"-model te ontwikkelen dat moet dienen als het Britse equivalent van OpenAI. • Het bedrijf opereert momenteel met een klein team van 30 mensen en heeft strategische steun gekregen van de Britse regering.
Lees origineel · ft.comAI-boom: Verlies van Google DeepMind in Londen laat een bittere nasmaak achter - Bloomberg
• Een recente reorganisatie van het leiderschap bij Google DeepMind in Londen heeft zorgen gewekt over het verlies van binnenlandse controle over kritiek AI-talent en infrastructuur. • De situatie onderstreept een bredere trend van buitenlandse overnames, specifiek hoe in de VS gevestigde giganten zoals Google Britse innovaties van topniveau absorberen.
Lees origineel · bloomberg.comGoogle AI-samenvattingen: Franse dagbladen dienen klacht in bij mededingingsautoriteit
• Apig, de Alliantie van Algemene Informatiepers, heeft een formele klacht ingediend bij de Franse mededingingswaakhond over de door AI gegenereerde samenvattingen van Google. • De alliantie stelt dat Google de voorwaarden schendt van een compensatieovereenkomst uit 2022, die bedoeld is om nieuwspublicaties te betalen voor het gebruik van hun content.
Lees origineel · euronews.com
EuronewsAI-financiering in het VK bereikt 9,6 miljard dollar in H1 2026; top vijf bedrijven goed voor 84% van het kapitaal - Entrepreneur United Kingdom - Entrepreneur United Kingdom
• Britse AI-bedrijven haalden in de eerste helft van 2026 een recordbedrag van 9,6 miljard dollar op, een stijging van 360% vergeleken met H1 2025. • Ondanks de enorme stijging in financiering is het kapitaal sterk geconcentreerd, waarbij de top vijf bedrijven 84% van de totale investeringen opeisten en het meeste kapitaal zich in Londen concentreerde.
Lees origineel · uk.entrepreneur.com
EntrepreneurFranse kranten richten pijlen op Google vanwege AI-samenvattingen - Digital Journal
• Franse kranten laten hun conflict met Google escaleren over het gebruik door de techreus van hun auteursrechtelijk beschermde artikelen om AI-samenvattingen te genereren. • Dit geschil komt voort uit een bredere strijd van mediabedrijven om hun intellectueel eigendom te beschermen, terwijl zij te maken hebben met aanzienlijke dalingen in traditionele advertentie-inkomsten.
Lees origineel · digitaljournal.com
Digital JournalNvidia gaat samenwerking aan met Wall Street-firma's voor AI-financieringsdeal van $500 miljard | Nvidia
• Nvidia werkt samen met grote Wall Street-firma's, waaronder BlackRock, Goldman Sachs, Apollo en KKR, om een financieringsdeal van $500 miljard voor AI-infrastructuur op te zetten. • Het initiatief heeft tot doel het enorme kapitaal te verschaffen dat nodig is voor de bouw van datacenters en hardware om het groeiende AI-ecosysteem te ondersteunen.
Lees origineel · theguardian.comSituational Awareness zet $400 miljoen in op chipstartup Source Foundry
• Het op AI gerichte hedgefonds Situational Awareness, onder leiding van Leopold Aschenbrenner, heeft deze week $400 miljoen geïnvesteerd in chipfabrikage-startup Source Foundry. • Deze nieuwste injectie brengt de totale inzet van het fonds op $500 miljoen in het bedrijf dat is opgericht door Stanford-onderzoekers Abdulmalik Obaid en Joe Burg.
Lees origineel · finance.yahoo.comThe Download: het volgende grote ding in LLM's en hoe AI-academisch onderzoek verschuift
• Nvidia heeft 500 miljard dollar aan financiering veiliggesteld van Wall Street om zijn AI-infrastructuur uit te breiden. • De investering is gericht op het opschalen van de hardware en systemen die nodig zijn om de volgende generatie Large Language Models (LLM's) te ondersteunen.
Lees origineel · technologyreview.com
MIT Technology ReviewAI-voetafdruk: Cyberdefensie in Californië, gasenergie in Texas en ontslagen in 2026 • Buttondown
• Op 10 augustus 2026 benadrukte een rapport de groeiende AI-voetafdruk binnen kritieke infrastructuur, waarbij specifiek werd gefocust op de cyberdefensie van Californië en de private gasenergiesystemen van Texas. • Het rapport meldt een aanzienlijke stijging in personeelsreducties en onthult dat het aantal ontslagen in het huidige jaar al is groter dan het totale aantal banenverliezen van het voorgaande jaar.
Lees origineel · buttondown.com
ButtondownSingapore herziet jaarlijkse groeiprognose naar boven door AI-impuls
• Singapore heeft de jaarlijkse groeiprognose voor het bbp voor 2026 aanzienlijk verhoogd naar een bandbreedte van 4,5% tot 5,5%. • Deze nieuwe prognose is meer dan het dubbele van de ondergrens van de vorige schatting, die was vastgesteld tussen 2% en 4%.
Lees origineel · cnbc.comHet volgende hoofdstuk van digitale groei in Azië-Pacific zal worden gedefinieerd door vertrouwen, veerkracht en soevereiniteit
• Mobiele diensten in de regio Azië-Pacific genereerden in 2025 een economische waarde van 1 biljoen USD, wat wijst op een enorme schaal van digitale activiteit. • Toekomstige groei verschuift nu naar een focus op kunstmatige intelligentie, digitaal vertrouwen, veerkracht en nationale soevereiniteit.
Lees origineel · itbrief.asia
IT Brief AsiaWereldmarkt: Singapore verhoogt groeiprognose voor 2026 door AI-boom en veerkrachtige wereldeconomie - The Economic Times
• Singapore heeft zijn economische groeiprognose voor 2026 verhoogd naar 4,5%-5,5%, vergeleken met de eerdere schatting van 2,0%-4,0%. • Deze opwaartse herziening volgt op sterke prestaties in het tweede kwartaal, waarin de economie met 5,9% op jaarbasis groeide.
Lees origineel · economictimes.indiatimes.com

