AI 实验室面临信任危机,Hugging Face 遭黑客攻击再次证明了这一点

- 一个由 OpenAI 开发的 AI 模型被用于攻击其竞争对手,具体目标是 AI 平台 Hugging Face。
- 此次事件凸显了前沿 AI 实验室与公众之间严重的信任缺口,因为此前关于 AI 风险的警告经常被认为是纯粹的营销手段。
- 此次漏洞表明,AI 驱动的网络攻击所带来的理论危险正成为现实,对科技行业构成了重大安全威胁。
- 预计此次事件将引发关于 AI 安全协议以及领先 AI 实验室采取更透明安全措施必要性的新一轮争论。
来源与引用
1 个来源更多故事
美国政府指责 Kimi K3 AI 模型制作者 Moonshot AI “窃取” Anthropic 的 Fable 模型;称通过隐秘蒸馏窃取美国技术“不可接受” - 印度时报
• 白宫指责中国初创公司 Moonshot AI 窃取 Anthropic 的技术,用以开发其 Kimi K3 开放权重模型。 • 白宫科技政策办公室的 Michael Kratsios 周三表示,证据显示 Moonshot 对 Anthropic 的 Fable 模型采用了“隐秘蒸馏”(covert distillation)。
阅读原文 · timesofindia.indiatimes.com在指控 Kimi K3 AI 模型制作者 Moonshot AI “窃取” Anthropic 的 Fable 模型后,Scott Bessent 警告中国公司可能被列入“实体清单” - 印度时报
• 美国财政部长 Scott Bessent 已向 Kimi K3 模型的创建者 Moonshot AI 及其他中国 AI 公司发出警告,称其可能被列入“实体清单”。 • 此次警告源于相关指控,称这些公司通过使用美国前沿模型的输出结果来“窃取”技术,并特别点名了 Anthropic 的 Fable 模型。
阅读原文 · timesofindia.indiatimes.comMoonshot、DeepSeek 与中国 AI 企业的 IPO 热潮
• 包括 Moonshot 和 DeepSeek 在内的中国 AI 领军企业正寻求 IPO,以获取与美国前沿模型竞争所需的资金。 • 这一向公开市场的冲刺是由日益激烈的 AI 军备竞赛驱动的,因为北京正寻求为先进开发所需的庞大基础设施和计算成本提供资金。
阅读原文 · fortune.com
Fortune关于中国政策与开源AI的高风险博弈:LLM巨头与客户陷入对立
• Moonshot AI旗下的Kimi K3是一款可与美国顶尖模型媲美的中国LLM,其性能的激增在人工智能行业内引发了显著紧张局势。 • 这种情况揭露了高阶智能供应商(如OpenAI和Anthropic)与使用其服务的初创公司及企业客户之间的深刻分歧。
阅读原文 · newcomer.co
Newcomer当人工智能突破封锁时 - POLITICO
• POLITICO 探讨了人工智能的快速进步如何扰乱全球经济权力结构,并挑战现有的封锁策略。 • 该报告引用了网络安全公司 Semgrep 的联合创始人兼 CTO Drew Dennison 关于大规模 AI 模型相关风险的见解。
阅读原文 · politico.comOpenAI 模型自主入侵一家科技初创公司,标志着网络安全领域的剧变
• 在上周的一次安全测试中,一个由 OpenAI 模型驱动的自主智能体成功入侵了市值数十亿美元的科技初创公司 Hugging Face。 • 为了应对此次攻击,Hugging Face 使用了来自中国公司 Z.AI 的开源模型 GLM5.2;由于该模型未接触过攻击数据,因此在防御中占据了优势。
阅读原文 · theconversation.com
The Conversation美国贸易伙伴面临新关税,专家对 OpenAI 遭黑客攻击看法分歧:早间简报
• 在与伊朗的战争爆发之初,数百名驻中东的美国外交官及其家属被要求撤离。 • 受影响的人员对美国国务院缺乏清晰的沟通和解答表示极大不满。
阅读原文 · nbcnews.com
NBC News随着中国模型取得进展,美中AI竞争进一步升级
• 中国的AI平台正利用价格和部署方面的优势,迅速缩小与美国同类产品之间的技术差距。 • 随着竞争加剧,Trump政府通过新的威胁以及对知识产权盗窃的指控予以回应。
阅读原文 · amp.dw.com
DWMicrosoft 向 Mistral 投入数十亿美元,助力欧洲主权 AI 基础设施大规模扩张 — BigGo Finance
• Microsoft 与法国 AI 初创公司 Mistral 于 7 月 21 日宣布一项数十亿美元的战略合作伙伴关系,旨在扩展欧洲的主权 AI 基础设施。 • Mistral 的最新模型 "Medium 3.5" 和 "OCR 4" 现已在 Microsoft Foundry 开发平台上线。
阅读原文 · finance.biggo.com
BigGo FinanceAI 护栏如何阻碍攻防网络安全研究人员的工作
• 攻防网络安全研究人员报告称,来自 OpenAI 和 Anthropic 等公司的 AI 护栏(guardrails)正阻碍他们寻找和利用未知漏洞的能力。 • Crowdfense 的 CTO Paolo Stagno 批评了这些安全措施,认为 AI 提供商将专业安全研究人员视为“需要照顾的孩子”。
阅读原文 · techcrunch.com
TechCrunch三星考虑向 Mistral AI 投资 10 亿欧元,旨在实现芯片与 AI 的双重主权布局
• 三星正考虑向 Mistral AI 投资 10 亿欧元,此举有可能将这家法国 AI 初创公司的估值推高至 200 亿欧元。 • 该交易旨在建立战略合作伙伴关系,使 Mistral 成为三星高带宽内存 (HBM) 芯片的核心客户。
阅读原文 · techtimes.com
Tech Times