Cybersecurity Researchers

• I fornitori di IA stanno implementando rigorosi guardrail e sistemi di verifica per limitare l'accesso ai modelli di frontiera, con l'obiettivo di prevenire l'abuso da parte di attori malintenzionati. • Queste restrizioni stanno ostacolando i legittimi ricercatori di cybersecurity, che ora devono affrontare ritardi significativi nello svolgimento di ricerche difensive. • Questo cambiamento sta costringendo gli esperti ad allontanarsi dai sistemi proprietari per fare maggiore affidamento su modelli di IA locali e open-source.

• I ricercatori di cybersecurity offensiva riferiscono che i guardrail dell'IA di aziende come OpenAI e Anthropic stanno ostacolando la loro capacità di trovare e sfruttare vulnerabilità sconosciute. • Paolo Stagno, CTO di Crowdfense, ha criticato queste misure di sicurezza, sostenendo che i fornitori di IA trattino i ricercatori di sicurezza professionisti come "bambini che hanno bisogno di una babysitter". • Questa tensione evidenzia un conflitto tra le politiche di sicurezza dell'IA, progettate per prevenire l'abuso, e le necessità degli esperti di sicurezza legittimi che richiedono strumenti senza restrizioni per la ricerca di vulnerabilità.