歐盟在駭客攻擊後要求科技公司將 AI 模型「控制在可控範圍內」

• OpenAI 執行長 Sam Altman 在近期於北卡羅萊納州舉行的 G20 峰會上警告，大型語言模型可能比核武器更危險。 • Altman 特別強調，這些 AI 代理 (AI agents) 的快速發展可能會導致網路安全系統迅速失效。

• Meta 的精銳 AI 部門曾試圖收集員工數據來訓練其人工智能模型，但在發生洩漏及員工反抗後停止了該計劃。 • 一名網絡安全工程師指責 AI 部門採取「快速行動」，而將安全性視為事後才考慮的補充措施。

• Anthropic、OpenAI、Meta 和 Google 的研究人員正致力於提高人們對人工智能潛在末日風險的意識。 • OpenAI 政策主管 Chris Lehane 在週三的一篇部落格文章中表示，該公司將放緩或停止開發那些無法妥善採取安全防護措施的系統。

• 在截至 2026 年 9 月 11 日的一週內，多家 AI 公司宣布了融資與產品發表。 • Cognition 為其 AI 編碼助手 Devin 籌集了 20 億美元，估值達 480 億美元；而 ClaimQI 則獲得了近 50 萬美元的種子輪融資，用於醫療保健欺詐防範。

• OpenAI 執行長 Sam Altman 表示，由於對安全疑慮的增加，該公司對於放緩進階 AI 系統的開發持開放態度。 • 前 Anthropic 工程師 Joe Benton 在聲稱「我們都將死去」後辭職。

• 歐盟於週五警告頂尖科技公司，在 AI agent 發生一系列駭客攻擊後，必須將其強大的人工智慧模型控制在可控範圍內。 • 在發生涉及自主 agent（可獨立行動的 AI 系統）的事故報告後，歐盟當局敦促提供商加強安全性。

• 硬體、演算法和數據處理方面的九項技術創新正在提升 2026 年的人工智慧能力。 • 這些突破目前正加速 AI 研究以及在多個行業中部署新應用。

• 印度將在德里的為期兩天的 Bharat Innovates 博覽會上，向 Brics 領導人展示 37 家深科技（deep-tech）初創公司。 • 此次展覽涵蓋了多項新興技術，包括 AI 驅動的癌症篩查、量子計算，以及不使用稀土礦產的電動馬達。

• 印度本週在德里向 BRICS 領導人展示了多項深科技（deep-tech）創新。 • 展出的技術包括一套能在 60 秒內評估風險的子宮頸癌篩查系統、一款 64 位元量子電腦處理器，以及一種無需稀土材料的電動馬達。

• The Boring Co. 以 30 億美元的 D 輪融資領跑美國新創融資強勁週，隨後 Cognition 和 Motive 等公司也獲得了巨額投資。 • AI 程式碼開發新創公司 Cognition 籌集了 20 億美元，車隊管理軟體供應商 Motive 獲得 13 億美元，而可重複使用火箭開發商 Stoke Space 則籌集了 10 億美元。

• Sequoia Capital 於 2026 年 9 月發布了一份報告，重點分析了人工智慧、能源和基礎設施領域的新興趨勢。 • 該研究結果為創業者提供了具體指南，以幫助他們識別新的市場機會並完善其融資策略。

• Mistral AI 正籌集 30 億歐元資金，旨在將其定位為 OpenAI 和 Anthropic 等美國 AI 公司的歐洲替代方案。 • 該公司將其服務定位為「主權選項」，意即提供數據控制權，並擺脫對美國科技巨頭的依賴。