Cybersecurity Researchers

• AI 供應商正實施嚴格的防護欄和驗證門檻以限制對前沿模型的存取，旨在防止惡意行為者的濫用。 • 這些限制正阻礙合法的網路安全研究人員，導致他們在進行防禦性研究時面臨嚴重延遲。 • 這一轉變正迫使專家們放棄專有系統，轉而更依賴本地的開源 AI 模型。

• 攻擊性網絡安全研究人員報告指出，來自 OpenAI 和 Anthropic 等公司的 AI 護欄正妨礙他們發現及利用未知漏洞的能力。 • Crowdfense 的 CTO Paolo Stagno 批評這些安全措施，認為 AI 提供商將專業安全研究人員視為「需要人看管的孩子」。 • 這種緊張局勢凸顯了旨在防止濫用的 AI 安全政策，與合法安全專家需要不受限制的工具進行漏洞研究之間的衝突。

• 網路安全研究人員正對 Anthropic 的新 AI 模型 Fable 提出批評，聲稱其安全護欄過於嚴格，導致在實際的網路安全應用中受限。 • 這些限制與先前針對生物相關查詢的限制類似，旨在防止生物武器的開發。 • 此問題發生在 4 月發佈 Mythos 之後，當時 Mythos 僅限於 Project Glasswing 框架下的特定組織使用，以確保關鍵基礎設施的安全。