TechCrunch (@TechCrunch) on X
• ऑफेंसिव साइबर सिक्योरिटी रिसर्चर्स की रिपोर्ट है कि AI गार्डरेल्स वैध सुरक्षा परीक्षण और भेद्यता अनुसंधान (vulnerability research) करने की उनकी क्षमता में बाधा डाल रहे हैं। • ये सुरक्षा फ़िल्टर, जिन्हें दुर्भावनापूर्ण कोड के निर्माण को रोकने के लिए डिज़ाइन किया गया है, अक्सर उन सौम्य अनुरोधों (benign requests) को भी ब्लॉक कर देते हैं जिनका उपयोग पेशेवर सिस्टम की कमजोरियों को पहचानने और उन्हें ठीक करने के लिए करते हैं। • यह संघर्ष AI सुरक्षा संरेखण (safety alignment) और रक्षा के लिए हमलों का अनुकरण करने की साइबर सुरक्षा समुदाय की व्यावहारिक जरूरतों के बीच बढ़ते तनाव को उजागर करता है।
x.com


