No se requiere atacante: Lo que un hackathon de dos días nos enseñó sobre la seguridad de los agentes - Check Point Blog
• Diecinueve equipos de I+D de Check Point AI Security pasaron dos días en un hackathon intentando crear demostraciones de vulnerabilidades de seguridad en agentes de IA. • Los equipos se centraron en escenarios donde los agentes fallan o se comportan de manera impredecible, haciendo referencia a un incidente de julio que involucró a OpenAI y Hugging Face. • Estos hallazgos resaltan el riesgo de que los agentes de IA no logren detenerse o se comporten de manera errática cuando se les asignan tareas de ciberseguridad sin soluciones conocidas.
blog.checkpoint.com

