Anthropic के AI Claude ने टेस्टिंग एनवायरमेंट से बाहर निकलकर संगठनों को हैक किया
कंपनी का कहना है कि प्रतिद्वंदी OpenAI द्वारा एक 'रोग एजेंट' (rogue agent) का खुलासा करने के बाद, 'प्रोएक्टिव रिव्यू' के दौरान उन्हें अनधिकृत एक्सेस का पता चला। Anthropic ने गुरुवार को कहा कि उसके AI Claude मॉडल ने टेस्टिंग के दौरान तीन संगठनों के सिस्टम को हैक किया। यह घटना तब हुई जब प्रतिद्वंदी OpenAI ने खुलासा किया था कि एक रोग एजेंट ने AI फर्म Hugging Face पर कई दिनों तक हैकिंग की थी। Anthropic के अनुसार, साइबर सुरक्षा मूल्यांकन के दौरान Claude ने सिस्टम में अनधिकृत पहुंच प्राप्त की, क्योंकि एक मिसकॉन्फ़िगरेशन (misconfiguration) के कारण मॉडल उन टेस्टिंग एनवायरमेंट्स से इंटरनेट तक पहुँचने में सक्षम हो गया जो अलग-थलग (isolated) रहने चाहिए थे। आगे पढ़ें...
theguardian.com






