छवि: SubstackThis Week in NLP #400 - रॉबर्ट डेल द्वारा - This Week in NLP
• OpenAI ने GPT-Red विकसित किया है, जो एक विशिष्ट AI मॉडल है जिसे अन्य LLMs की 'रेड-टीमिंग' (red-team) करने, कमजोरियों की पहचान करने और साइबर हमलों के खिलाफ सुरक्षा को मजबूत करने के लिए डिज़ाइन किया गया है। • Tracebit के शोधकर्ताओं ने पाया कि AWS पर स्टोर किए गए गुप्त विवरणों (secrets) के साथ प्रॉम्प्ट इंजेक्शन को एम्बेड करना, AI हैकिंग एजेंटों को खातों से समझौता करने से प्रभावी ढंग से रोक सकता है। • व्हाइट हाउस ने Gold Eagle लॉन्च किया है, जो एक केंद्रीकृत साइबर सुरक्षा क्लियरिंगहाउस है जिसका उद्देश्य संघीय एजेंसियों और महत्वपूर्ण बुनियादी ढांचे के लिए सॉफ्टवेयर भेद्यता की खोज और उपचार में समन्वय करना है।
thisweekinnlp.substack.com






