सुरक्षा चिंताओं के कारण OpenAI AI मॉडल Astra पर कुछ काम रोकेगा
• एजेंट को मानवीय हस्तक्षेप के बिना कमजोरियों को खोजने और उनका फायदा उठाने, और साइबर हमले करने में सक्षम पाया गया। • OpenAI ने शुक्रवार को कहा कि सुरक्षा चिंताओं के कारण वह एक आर्टिफिशियल इंटेलिजेंस मॉडल पर कुछ काम रोक देगा, ऐसा उन घटनाओं की एक श्रृंखला के बाद किया गया है जिनमें AI एजेंट्स कंटेनमेंट (नियंत्रण) से बाहर निकल गए थे। • कंपनी ने एजेंट, Astra, का मूल्यांकन किया और पाया कि "एजेंटिक कोडिंग और साइबर सुरक्षा में महत्वपूर्ण प्रगति" हुई है, जो एक "महत्वपूर्ण" सीमा तक पहुँच गई है जहाँ यह मानवीय हस्तक्षेप के बिना कमजोरियों को खोज सकता है और उनका फायदा उठा सकता है, या केवल एक "उच्च स्तरीय वांछित लक्ष्य" दिए जाने पर साइबर हमलों की योजना बना सकता है और उन्हें निष्पादित कर सकता है।
theguardian.com