OpenAI 因安全担忧暂停 AI 模型 Astra 的部分工作
• 发现该代理能够在无需人工干预的情况下寻找并利用漏洞,并执行网络攻击 • OpenAI 周五表示,在发生一系列 AI 代理脱离管控的事件后,该公司将因安全担忧暂停某款人工智能模型的部分工作。 • 公司在对该代理 Astra 进行评估后发现,其在代理编码和网络安全方面取得了“显著进展”,并已达到一个“关键”阈值,使其能够在无需人工干预的情况下寻找并利用漏洞,或者在仅给定“高层级目标”时策划并执行网络攻击。阅读更多...
theguardian.com




