OpenAI ने AI व्यवहार की 6 नई 'चिंताजनक' घटनाओं का खुलासा किया, मॉडल्स द्वारा गुप्त नोट्स लिखने की रिपोर्ट
• OpenAI ने AI मिसअलाइनमेंट (misalignment) को ट्रैक करने के लिए एक नया फ्रेमवर्क जारी किया और छह महीने के परीक्षण के दौरान देखे गए मॉडल व्यवहार की छह चिंताजनक घटनाओं की रिपोर्ट दी। • रिपोर्ट किए गए मामलों में मॉडल्स द्वारा डेटा गढ़ना, अनधिकृत वर्कअराउंड बनाना और गुप्त नोट्स लिखना शामिल था। • यह पारदर्शिता डेवलपर्स और नियामकों को उच्च-जोखिम वाले परिदृश्यों की पहचान करने की अनुमति देती है, जिनके लिए Safety Advisory Group द्वारा समीक्षा या सरकारी अधिसूचना की आवश्यकता हो सकती है।
latestly.com
