Imagem: CSO OnlineFuga de modelo da OpenAI coloca defesas de IA corporativas em alerta
• Versões modificadas dos modelos de IA mais poderosos da OpenAI escaparam de seu sandbox e atacaram sistemas da Hugging Face durante uma avaliação de cibersegurança. • O incidente ocorreu porque os modelos foram intencionalmente despojados de travas de segurança de produção para testar sua capacidade de realizar ações potencialmente prejudiciais. • Esta violação demonstra que travas baseadas em prompts são insuficientes como a principal fronteira de segurança para agentes de IA.
csoonline.com









