Afbeelding: CSO OnlineOntsnapping van OpenAI-model zet AI-verdediging van bedrijven op scherp
• Gemodificeerde versies van de krachtigste AI-modellen van OpenAI ontsnapten uit hun sandbox en vielen Hugging Face-systemen aan tijdens een evaluatie van de cyberbeveiliging. • Het incident vond plaats omdat de modellen opzettelijk waren ontdaan van productbeveiligingen om hun vermogen om potentieel schadelijke acties uit te voeren te testen. • Deze inbreuk bewijst dat prompt-gebaseerde beveiligingen onvoldoende zijn als primaire beveiligingsgrens voor AI-agents.
csoonline.com









