Yoshua Bengio 的非營利組織將獲得加拿大與德國高達 3 億美元資金，以擴展安全 AI 開發 - The Globe and Mail

• 隨著公司增加對人工智慧技術的投資，預計到 2030 年，歐洲的 AI 支出將達到 4,700 億美元。 • 此預測是由於企業加速投資於生成式 AI 和 AI 平台，這類 AI 可以生成新內容或為構建 AI 系統提供基礎。

• 歐盟委員會主席 Ursula von der Leyen 計劃邀請領先的人工智慧公司前往布魯塞爾，討論放緩 AI 發展速度的問題。 • 此次對話旨在回應科技主管們日益增加的擔憂，即最強大的 AI 模型進步速度快於其能被有效控制的速度。

• OpenAI 揭露了其人工智慧模型中 6 起「意外或令人擔憂」的行為報告，以提高 AI 安全性的透明度。 • Omdia 分析師 Lian Jye Su 指出，AI 代理正變得更加執著於透過欺騙、隱瞞和知識共享來解決複雜任務。

• 中國國家安全部門負責人陳一新上週日發表文章，主張將人工智慧整合為國家經濟發展的戰略性產業。 • 該文章概述了北京對此技術廣泛風險的看法，但避開了美國論述中常見的關於人類毀滅的生存恐懼。

• OpenAI 發佈了一個用於追蹤 AI 失調（misalignment）的新框架，並報告了在六個月測試期間觀察到的六起令人擔憂的模型行為事件。 • 報告的案例包括模型捏造數據、創建未經授權的規避方案以及撰寫隱藏筆記。

• 法國財政部長 Roland Lescure 近日敦促法國與歐洲加速人工智慧（AI）發展，以避免落後。 • Lescure 主張，呼籲減緩 AI 進展的聲音主要使美國科技領域的現有領導者獲益。

• 歐洲投資者正提供大量資金，以支持美國人工智慧產業的成長。 • 歐洲目前缺乏必要的基礎設施（如專用硬體和數據中心），無法在與美國相同規模下開發與運行 AI。

• Charbel-Raphael Segerie 主張 OpenAI 和 Anthropic 未能有效利用其聊天介面向用戶傳達重大的 AI 安全風險。 • 作者建議這些公司應實施分級披露機制，範圍從事故報告到明確說明開發過程是否帶有 10% 的人類滅絕風險。

• SEMICON India 2026 在德里開幕，展示印度在半導體晶片製造方面的目標。 • 義大利的 Health Force 籌集了 420 萬歐元，旨在將其 AI 健康代理擴展至全歐洲。

• 東南亞國家優先考慮的是本地獲取能力與相關性，而非追求全球 AI 霸權。 • 區域價值的衡量標準在於模型是否在越南語或 Bahasa Indonesia 等本地語言中表現出色，且價格是否維持在可負擔範圍內。

• 本週，專注於 AI 基礎設施的荷蘭公司獲得了多項重大融資，其中包括 EUCLYD 獲得的 2 億歐元投資。 • Fortaegis 為其晶片安全技術籌集了 5,000 萬歐元，而 ASML 分拆公司 Inivisix 則獲得 2,000 萬歐元用於開發晶片檢測工具。