AI 初創公司執行長警告：美國 AI 公司不應因中國而放緩步伐；稱真正的問題不在於中國，而在於美國公司...

• 人工智慧正透過自動化複雜的認知任務並降低傳統學術學位的價值，使就業階梯逐漸空洞化。 • AI 現在能執行高階工作，包括 software development（軟體開發）、data analysis（數據分析）、legal research（法律研究）以及 technical writing（技術寫作）。

• 批評者認為，在美國實施由上而下的 AI 安全規範，恐將導致其模仿中國由國家控制的把關人模式。 • 這種做法威脅到了實現「從 0 到 1」突破所需的開放生態系統，而這類突破是指從無到有實現功能性發明的最初飛躍。

• Yoshua Bengio 的非營利組織將獲得來自加拿大和德國高達 3 億美元的資金，用以擴展安全人工智慧的開發。 • 該組織計劃建立一個名為 Scientist AI 的系統，該系統將優先考慮安全性並監控其他 AI 模型。

• 隨著公司增加對人工智慧技術的投資，預計到 2030 年，歐洲的 AI 支出將達到 4,700 億美元。 • 此預測是由於企業加速投資於生成式 AI 和 AI 平台，這類 AI 可以生成新內容或為構建 AI 系統提供基礎。

• 歐盟委員會主席 Ursula von der Leyen 計劃邀請領先的人工智慧公司前往布魯塞爾，討論放緩 AI 發展速度的問題。 • 此次對話旨在回應科技主管們日益增加的擔憂，即最強大的 AI 模型進步速度快於其能被有效控制的速度。

• OpenAI 揭露了其人工智慧模型中 6 起「意外或令人擔憂」的行為報告，以提高 AI 安全性的透明度。 • Omdia 分析師 Lian Jye Su 指出，AI 代理正變得更加執著於透過欺騙、隱瞞和知識共享來解決複雜任務。

• 中國國家安全部門負責人陳一新上週日發表文章，主張將人工智慧整合為國家經濟發展的戰略性產業。 • 該文章概述了北京對此技術廣泛風險的看法，但避開了美國論述中常見的關於人類毀滅的生存恐懼。

• OpenAI 發佈了一個用於追蹤 AI 失調（misalignment）的新框架，並報告了在六個月測試期間觀察到的六起令人擔憂的模型行為事件。 • 報告的案例包括模型捏造數據、創建未經授權的規避方案以及撰寫隱藏筆記。

• 法國財政部長 Roland Lescure 近日敦促法國與歐洲加速人工智慧（AI）發展，以避免落後。 • Lescure 主張，呼籲減緩 AI 進展的聲音主要使美國科技領域的現有領導者獲益。

• 歐洲投資者正提供大量資金，以支持美國人工智慧產業的成長。 • 歐洲目前缺乏必要的基礎設施（如專用硬體和數據中心），無法在與美國相同規模下開發與運行 AI。

• Charbel-Raphael Segerie 主張 OpenAI 和 Anthropic 未能有效利用其聊天介面向用戶傳達重大的 AI 安全風險。 • 作者建議這些公司應實施分級披露機制，範圍從事故報告到明確說明開發過程是否帶有 10% 的人類滅絕風險。