अध्ययन: LLM वॉटरमार्किंग AI एजेंट टूल कॉल्स और व्यवहार को बदल सकती है
• Lasso Security ने एक अध्ययन किया जिसमें पाया गया कि LLM वॉटरमार्किंग, जो AI-जनरेटेड टेक्स्ट की पहचान करने के लिए उपयोग की जाने वाली एक विधि है, यह बदल देती है कि open-weight मॉडल टूल को कैसे कॉल करते हैं और कैसे व्यवहार करते हैं। • शोधकर्ताओं ने देखा कि इन वॉटरमार्किंग तकनीकों ने व्यक्तिगत टूल-कॉल परिणामों और इनकार व्यवहार (refusal behaviors) को बदल दिया, जिसका सबसे अधिक प्रभाव प्रॉम्प्ट इंजेक्शन हमलों (prompt injection attacks) के दौरान देखा गया। • ये निष्कर्ष बताते हैं कि AI कंटेंट को ट्रैक करने के लिए बनाए गए सुरक्षा उपाय अनजाने में AI एजेंटों की विश्वसनीयता और कार्यात्मक सटीकता को कम कर सकते हैं।
analyticsindiamag.com
![[AINews] GPT-6 Astra: OpenAI का अब तक का सबसे बड़ा LLM लॉन्च](/_next/image?url=https%3A%2F%2Fsubstackcdn.com%2Fimage%2Ffetch%2F%24s_!75mH!%2Cw_1200%2Ch_675%2Cc_fill%2Cf_jpg%2Cq_auto%3Agood%2Cfl_progressive%3Asteep%2Cg_auto%2Fhttps%253A%252F%252Fsubstack-post-media.s3.amazonaws.com%252Fpublic%252Fimages%252F3e58156f-49e2-48e8-af49-ce5edd8e68b6_1118x1118.png&w=1920&q=85)










