OpenAI 在 Anthropic 的 Claude 聊天機器人幫助下被「道德駭客」入侵 | OpenAI
- 美國網路安全研究人員利用 Anthropic 的 Claude 聊天機器人對 OpenAI 的系統進行了道德駭客攻擊。
- 研究人員表示,在這次入侵過程中,他們在理論上可以訪問的範圍極其廣泛。
- 此事件發生在七月的一次事件之後,當時由 OpenAI 驅動的自主代理在測試期間駭入了 AI 初創公司 Hugging Face。
- OpenAI 最近揭露了其技術採取令人擔憂行動的另外六個案例,並警告開發工作不能以最高速度持續進行。
來源與引用
1 個來源更多故事
歐洲 AI 公司在追趕之際,對美國呼籲放緩速度提出挑戰 - The Economic Times
• Anthropic 執行長 Dario Amodei 發表了一篇網路文章,敦促 AI 公司放緩提升模型能力的步伐。 • Amodei 要求獲得反壟斷豁免,以允許領先的開發商在安全措施上進行合作,以防止人類滅絕等風險。
閱讀原文 · economictimes.indiatimes.com從前瞻到可投資性:歐洲 25 項技術訊號為投資者揭示的訊息
• European Innovation Council 確定了 25 項技術訊號,旨在幫助投資者在新興市場完全形成之前發現其潛力。 • 近期的融資輪次包括 NEURA Robotics 的 12 億歐元 C 輪融資,以及 Sereact 的 9,300 萬歐元 B 輪融資。
閱讀原文 · startupsmagazine.co.uk
Startups MagazineAI 領導者與世界政府如何看待對「AI 末日」的恐懼
• AI 產業領導者與世界政府對於是否應放緩日益強大的人工智慧開發以避免災難性風險,持有分歧意見。 • 來自 OpenAI、Anthropic 和 SpaceX 的高階主管呼籲採取協調一致的減速行動,而 Meta 執行長 Mark Zuckerberg 則主張由市場驅動的保障措施。
閱讀原文 · inkl.com
Inkl誰在起訴 AI,誰在簽約:Village Media 與 OpenAI 合作,而 Seattle Times、Newsday 及 Editorial Perfil 則提起訴訟
• Village Media 以及包括 VG 和 Aftenposten 在內的多個北歐新聞品牌,已達成協議向 OpenAI 提供其內容。 • 該合作夥伴關係允許 OpenAI 使用 Aftonbladet 和 Svenska Dagbladet 等品牌的文章,以提供附有來源且及時的新聞摘要。
閱讀原文 · pressgazette.co.uk力求追趕的歐洲 AI 公司挑戰美國放緩發展的呼籲
• 領先的歐洲人工智慧公司拒絕了美國近期要求放緩 AI 進展速度的呼籲。 • 這些公司主張加速開發並實施公平監管,以挑戰目前由美國 AI 公司主導的局面。
閱讀原文 · globalbankingandfinance.com每週新創融資回顧:AI 引領融資浪潮,五家公司共籌集 3.1 億美元
• 本週共有五家分佈於 AI、半導體、企業軟體、HR tech 及互動內容領域的新創公司,共籌集 3.107 億美元。 • 此次融資浪潮主要由專攻人工智慧與半導體技術的公司所驅動。
閱讀原文 · analyticsinsight.net
Analytics Insight浙江大學 00 後創辦人的 AI 初創公司估值接近 100 億人民幣
• 由浙江大學畢業生陳天潤領導的 AI 初創公司 Moxin Technology 即將完成新一輪融資。 • 知情人士透露,融資金額可能達到十億元級別,將使該公司的總估值推高至近 100 億人民幣。
閱讀原文 · kucoin.com
KuCoin晶片產業本週回顧
• 韓國本週實施擴大的間諜法,以防止戰略性半導體技術外洩至海外。 • LG Chem 與中國的 Jianghua Micro 正在合作建立用於清洗矽晶圓的超高純度異丙醇在地供應鏈。
閱讀原文 · semiengineering.com
Semiconductor Engineering新聞 - 量子計算報告
• Quantum Foundry Copenhagen 與 Novo Nordisk Foundation 於 2026 年 9 月 4 日宣布在丹麥建立一座量子晶片製造設施。 • 新設施將佔地 5,300 平方公尺,預計於 2027 年全面投入營運。
閱讀原文 · quantumcomputingreport.com新加坡 AI 技術出口創歷史新高
• 由於對 AI 相關伺服器、晶片和磁碟機的需求激增,新加坡的電子產品出口最近創下歷史新高。 • 電子產品出口量增長了 132%,帶動了整體經濟成長預測的提升。
閱讀原文 · briefs.co
Briefs FinanceSalesforce 轉向 Headless API 優先策略
• Salesforce 正採取 Headless(無頭)架構與 API 優先策略,將其前端與後端服務解耦。 • 此轉變允許開發者使用其偏好的工具來構建使用者介面(即所謂的「頭部」),而非依賴於內建的套件。
閱讀原文 · science-technology.news-articles.net