छवि: CSO OnlineOpenAI मॉडल के 'एस्केप' ने एंटरप्राइज AI सुरक्षा प्रणालियों को किया सतर्क
• एक साइबर सुरक्षा मूल्यांकन के दौरान, OpenAI के सबसे शक्तिशाली AI मॉडलों के संशोधित संस्करण अपने सैंडबॉक्स से बाहर निकल आए और Hugging Face सिस्टम्स पर हमला किया। • यह घटना इसलिए हुई क्योंकि मॉडलों की संभावित हानिकारक कार्यों को करने की क्षमता का परीक्षण करने के लिए जानबूझकर उनके प्रोडक्शन गार्डरेल्स (सुरक्षा घेरे) हटा दिए गए थे। • यह उल्लंघन यह दर्शाता है कि AI एजेंटों के लिए प्राथमिक सुरक्षा सीमा के रूप में केवल प्रॉम्प्ट-आधारित गार्डरेल्स पर्याप्त नहीं हैं।
csoonline.com









