AI 實驗室面臨信任危機,Hugging Face 駭客事件正證明了這一點

- 一個由 OpenAI 開發的 AI 模型被用於攻擊競爭對手,其目標正是 AI 平台 Hugging Face。
- 此事件凸顯了頂尖 AI 實驗室與大眾之間嚴重的信任缺口,因為先前關於 AI 風險的警告經常被視為單純的行銷手段。
- 這次漏洞證明,AI 驅動的網路攻擊從理論上的危險正轉變為實際現實,對科技產業構成了重大安全威脅。
- 預計此事件將再次觸發關於 AI 安全協定以及各領先 AI 實驗室採取更透明安全措施之必要性的辯論。
來源與引用
1 個來源更多故事
美國政府指控 Kimi K3 AI 模型開發商 Moonshot AI 「竊取」Anthropic 的 Fable 模型;稱秘密蒸餾以竊取美國技術是「不可接受的」- 印度時報
• 白宮指控中國初創公司 Moonshot AI 竊取 Anthropic 的技術,用以開發其 Kimi K3 開源權重模型。 • 白宮科學技術政策辦公室的 Michael Kratsios 週三表示,證據顯示 Moonshot 對 Anthropic 的 Fable 模型採取了「秘密蒸餾」(covert distillation)。
閱讀原文 · timesofindia.indiatimes.com在指控 Kimi K3 AI 模型開發商 Moonshot AI 「竊取」Anthropic 的 Fable 模型後,Scott Bessent 警告中國公司將面臨「實體清單指派」- 印度時報
• 美國財政部長 Scott Bessent 已向 Kimi K3 模型的開發者 Moonshot AI 及其他中國 AI 公司發出警告,稱其可能被列入「實體清單」(Entity List)。 • 此警告源於相關指控,稱這些公司透過使用美國前沿模型的輸出內容來「竊取」技術,並特別點名了 Anthropic 的 Fable 模型。
閱讀原文 · timesofindia.indiatimes.comMoonshot、DeepSeek 與中國 AI 的上市熱潮
• 包括 Moonshot 和 DeepSeek 在內的中國 AI 領軍企業正尋求 IPO,以獲取與美國頂尖模型競爭所需的資金。 • 這次奔向公開市場的熱潮是由不斷升級的 AI 軍備競賽所驅動,北京方面正尋求為開發先進技術所需的大規模基礎設施和計算成本提供資金。
閱讀原文 · fortune.com
Fortune中國政策與開源 AI 的高風險之爭:LLM 巨頭與客戶對立
• Moonshot AI 推出的 Kimi K3 性能大幅提升,這款能與美國頂級模型抗衡的中國 LLM 引發了人工智慧產業內的高度緊張局勢。 • 此情況揭露了高階智能供應商(如 OpenAI 和 Anthropic)與使用其服務的新創公司及企業客戶之間深刻的裂痕。
閱讀原文 · newcomer.co
Newcomer當 AI 突破限制時 - POLITICO
• POLITICO 探討 AI 的快速進步如何顛覆全球經濟權力結構,並對現有的遏制策略構成挑戰。 • 該報導分享了網路安全公司 Semgrep 的共同創辦人兼 CTO Drew Dennison 對於大規模 AI 模型相關風險的見解。
閱讀原文 · politico.comOpenAI 模型自主駭入科技初創公司,預示網路安全將發生劇烈變革
• 上週在一項安全性測試中,一個由 OpenAI 模型驅動的自主代理成功駭入了市值數十億美元的科技初創公司 Hugging Face。 • 為了應對此次攻擊,Hugging Face 使用了來自中國公司 Z.AI 的開源模型 GLM5.2;由於該模型未接觸過攻擊數據,因此在防禦中佔據了優勢。
閱讀原文 · theconversation.com
The Conversation美國貿易夥伴面臨新關稅,專家對 OpenAI 駭客事件看法分歧:早晨簡報
• 在與伊朗戰爭爆發之初,數百名駐中東的美國外交官及其家屬被命令撤離。 • 受影響的人員對美國國務部缺乏清晰的溝通與解答表示極其不滿。
閱讀原文 · nbcnews.com
NBC News隨著中國模型崛起,美中 AI 競爭升溫
• 中國的 AI 平台利用定價和部署方面的優勢,正迅速縮小與美國對手的技術差距。 • 隨著競爭加劇,Trump 政府以新的威脅以及對盜用知識產權的指控予以回應。
閱讀原文 · amp.dw.com
DWMicrosoft 投入數十億美元投資 Mistral,推動歐洲主權 AI 基礎設施大幅擴張 — BigGo Finance
• Microsoft 與法國 AI 初創公司 Mistral 於 7 月 21 日宣布達成一項數十億美元的戰略合作夥伴關係,旨在擴展歐洲的主權 AI 基礎設施。 • Mistral 的最新模型「Medium 3.5」與「OCR 4」現已在 Microsoft Foundry 開發平台上提供。
閱讀原文 · finance.biggo.com
BigGo FinanceAI 護欄如何阻礙攻擊性網絡安全研究人員的工作
• 攻擊性網絡安全研究人員報告指出,來自 OpenAI 和 Anthropic 等公司的 AI 護欄正妨礙他們發現及利用未知漏洞的能力。 • Crowdfense 的 CTO Paolo Stagno 批評這些安全措施,認為 AI 提供商將專業安全研究人員視為「需要人看管的孩子」。
閱讀原文 · techcrunch.com
TechCrunch三星考慮投資 10 億歐元 Mistral 股份,旨在實現晶片與 AI 的雙重主權布局
• 三星正考慮向 Mistral AI 投資 10 億歐元,此舉可能會將這家法國 AI 初創公司的估值翻倍至 200 億歐元。 • 該交易旨在建立策略合作夥伴關係,使 Mistral 成為三星高頻寬記憶體 (HBM) 晶片的關鍵客戶。
閱讀原文 · techtimes.com
Tech Times