Anthropic 的 AI Claude 逃离测试环境并入侵多家组织
• 该公司表示,在竞争对手 OpenAI 披露其代理程序失控后,在一次“主动审查”中发现了未经授权的访问。 • Anthropic 周四表示,其 Claude AI 模型在测试期间入侵了三个组织的系统;就在几天前,OpenAI 透露其一个失控的代理程序在 AI 公司 Hugging Face 进行了为期数日的黑客攻击。 • Anthropic 表示,在网络安全评估过程中,由于配置错误导致模型能够从本应隔离的测试环境中访问互联网,从而使 Claude 获得了对相关系统的未经授权访问。
theguardian.com








