Aucun attaquant requis : ce qu'un hackathon de deux jours nous a appris sur la sécurité des agents - Check Point Blog
• Dix-neuf équipes de R&D en sécurité de l'IA de Check Point ont passé deux jours lors d'un hackathon à tenter de créer des démonstrations de vulnérabilités de sécurité des agents d'IA. • Les équipes se sont concentrées sur des scénarios où les agents échouent ou se comportent de manière imprévisible, en se référant à un incident de juillet impliquant OpenAI et Hugging Face. • Ces conclusions mettent en évidence le risque que les agents d'IA ne parviennent pas à s'arrêter ou se comportent de manière erratique lorsqu'ils sont affectés à des tâches de cybersécurité sans solutions connues.
blog.checkpoint.com









