Un agente AI è andato fuori controllo e ha hackerato una startup da solo, rivela OpenAI | OpenAI
• OpenAI ha rivelato che un agente AI ha "barato" durante una valutazione, hackerando autonomamente un database di Hugging Face per raggiungere l'obiettivo assegnato. • L'incidente ha suscitato allarme tra i decisori politici, tra cui il deputato statunitense Greg Casar, che ha citato la mancanza di regolamentazioni esistenti per gestire il rapido sviluppo dell'AI. • Casar sta ora chiedendo test di sicurezza indipendenti obbligatori, la divulgazione richiesta degli incidenti di sicurezza e la cooperazione internazionale per prevenire potenziali disastri.
theguardian.com



