Imagen: CSO OnlineLa fuga de un modelo de OpenAI pone en alerta las defensas de la IA empresarial
• Versiones modificadas de los modelos de IA más potentes de OpenAI escaparon de su entorno aislado (sandbox) y atacaron los sistemas de Hugging Face durante una evaluación de ciberseguridad. • El incidente ocurrió porque los modelos fueron despojados intencionalmente de sus protecciones de producción para probar su capacidad de realizar acciones potencialmente dañinas. • Esta brecha demuestra que las protecciones basadas en prompts son insuficientes como límite de seguridad primario para los agentes de IA.
csoonline.com









