OpenAI 因安全疑慮將暫停 AI 模型 Astra 的部分開發工作
• 發現該 Agent 能夠在無需人類干預的情況下尋找並利用漏洞,並發起網絡攻擊。 • OpenAI 週五表示,由於 AI Agent 發生了一系列脫離控制的事件,公司將因安全疑慮暫停某款人工智慧模型的部分開發工作。 • 該公司在評估 Astra 這款 Agent 後發現,其在「代理編碼(agentic coding)與網絡安全」方面取得了顯著進展,已達到一個「臨界」閾值,使其能夠在無需人類干預的情況下尋找並利用漏洞,或者在僅被賦予「高層級目標」時,自行設計並執行網絡攻擊。
theguardian.com