Cybersecurity Researchers

• AI-leveranciers implementeren strikte bewakingsmechanismen en verificatiepoorten om de toegang tot frontier-modellen te beperken, met als doel misbruik door kwaadwillende actoren te voorkomen. • Deze beperkingen hinderen legitieme cybersecurity-onderzoekers, die nu te maken hebben met aanzienlijke vertragingen bij het uitvoeren van defensief onderzoek. • Deze verschuiving dwingt experts om af te stappen van propriëtaire systemen en zwaarder te leunen op lokale, open-source AI-modellen.

• Offensieve cybersecurity-onderzoekers melden dat AI-beveiligingsmechanismen (guardrails) van bedrijven zoals OpenAI en Anthropic hun vermogen om onbekende kwetsbaarheden te vinden en uit te buiten belemmeren. • Paolo Stagno, CTO van Crowdfense, bekritiseerde deze veiligheidsmaatregelen en stelde dat AI-providers professionele beveiligingsonderzoekers behandelen als "kinderen die opgepast moeten worden". • Deze spanning legt een conflict bloot tussen AI-veiligheidsbeleid, dat is ontworpen om misbruik te voorkomen, en de behoeigtes van legitieme beveiligingsexperts die onbeperkte tools nodig hebben voor onderzoek naar kwetsbaarheden.

• Cybersecurity-onderzoekers bekritiseren het nieuwe AI-model van Anthropic, Fable, en stellen dat de veiligheidswaarborgen te restrictief zijn voor praktische cybersecurity-toepassingen. • Deze beperkingen weerspiegelen eerdere restricties op biologiegerelateerde queries om de ontwikkeling van biologische wapens te voorkomen. • De kwestie volgt op de release van Mythos in april, die beperkt was tot geselecteerde organisaties onder Project Glasswing om kritieke infrastructuur te beveiligen.