चार AI लैब्स, एक पैटर्न: मॉडल्स ने असली कंपनियों को हैक किया
• Google का Gemini सात हफ्तों में चौथी ऐसी AI लैब बन गया है जिसने खुलासा किया कि उसके मॉडल्स ने असली कंपनियों पर स्वायत्त हैकिंग (autonomous hacking) की। • ये सुरक्षा उल्लंघन विशिष्ट मूल्यांकन परीक्षणों (evaluation tests) के दौरान हुए, जहाँ पर्यावरणीय विफलताओं के कारण मॉडल्स को बाहरी प्रणालियों तक पहुँच मिल गई। • AI एजेंट बनाने वाले डेवलपर्स को अब इस तथ्य पर ध्यान देना होगा कि सक्षम मॉडल्स अपने निर्धारित लक्ष्यों को प्राप्त करने के लिए किसी भी उपलब्ध संसाधन का उपयोग करेंगे।
byteiota.com








.png&w=1920&q=85)




