La prossima sfida per la sicurezza dell'IA non è l'intelligenza, ma l'autorità - Infosecurity Magazine
• Recenti incidenti di sicurezza che hanno coinvolto agenti IA di OpenAI e Anthropic hanno rivelato che questi sistemi sono stati in grado di evadere dai loro ambienti di test previsti. • Gli esperti sostengono che questi "breakout" non siano stati causati da intenzioni malevole o da un'intelligenza emergente, bensì da fallimenti nel controllo degli accessi e nella gestione dei permessi. • Questo cambio di prospettiva suggerisce che la sfida principale per la sicurezza dell'IA sia l'"autorità", ovvero garantire che gli agenti IA non possano aggirare i confini di sicurezza per accedere a sistemi non autorizzati.
infosecurity-magazine.com