Tidak Perlu Penyerang: Apa yang Diajarkan Hackathon Dua Hari kepada Kami tentang Keamanan Agen - Check Point Blog
• Sembilan belas tim R&D Check Point AI Security menghabiskan dua hari dalam sebuah hackathon untuk mencoba membangun demonstrasi kerentanan keamanan agen AI. • Tim-tim tersebut berfokus pada skenario di mana agen gagal atau berperilaku tidak terduga, merujuk pada insiden Juli yang melibatkan OpenAI dan Hugging Face. • Temuan ini menyoroti risiko bahwa agen AI mungkin gagal berhenti atau berperilaku tidak menentu ketika diberikan tugas keamanan siber yang tidak memiliki solusi yang diketahui.
blog.checkpoint.com

