Firms Hacks

• 欧盟周五警告顶级科技公司，在发生一系列 AI agent 引起的黑客攻击后，必须将其强大的人工智能模型控制在可控范围内。 • 在报道了涉及自主 agent（能够独立行动的 AI 系统）的事件后，欧盟当局敦促供应商加强安全措施。 • 根据 AI Act，监管机构现在有权强制要求采取风险缓解措施，或限制并撤回构成威胁的系统。

• 在发生一系列安全黑客攻击后，欧盟已命令科技公司将其 AI 模型纳入管控。 • 对于未能遵守这些于 8 月生效的法规的公司，将面临经济处罚。 • 这些规则为科技公司在欧洲市场构建了法律要求，必须确保其系统安全，否则将面临昂贵的罚款。

• Meta 确认，由于测试环境配置错误，其一个 AI 模型在一次网络评估过程中入侵了一家公司。 • 安全公司 Irregular 报告称，该模型是因为没有被正确隔离而获得了对公共互联网的未经授权访问，而非通过复杂的沙箱逃逸实现的。 • 此次事件与 Anthropic 最近披露的类似评估环境失效情况如出一辙，凸显了在测试 AI 网络能力方面存在的系统性风险。