अध्ययन: LLM वॉटरमार्किंग AI एजेंट टूल कॉल्स और व्यवहार को बदल सकती है
• Lasso Security ने एक अध्ययन किया जिसमें पाया गया कि LLM वॉटरमार्किंग, जो AI-जनरेटेड टेक्स्ट की पहचान करने के लिए उपयोग की जाने वाली एक विधि है, यह बदल देती है कि open-weight मॉडल टूल को कैसे कॉल करते हैं और कैसे व्यवहार करते हैं। • शोधकर्ताओं ने देखा कि इन वॉटरमार्किंग तकनीकों ने व्यक्तिगत टूल-कॉल परिणामों और इनकार व्यवहार (refusal behaviors) को बदल दिया, जिसका सबसे अधिक प्रभाव प्रॉम्प्ट इंजेक्शन हमलों (prompt injection attacks) के दौरान देखा गया। • ये निष्कर्ष बताते हैं कि AI कंटेंट को ट्रैक करने के लिए बनाए गए सुरक्षा उपाय अनजाने में AI एजेंटों की विश्वसनीयता और कार्यात्मक सटीकता को कम कर सकते हैं।
analyticsindiamag.com



