Call Slowdown

• OpenAI 正提議建立一個聯邦框架，以管理人工智慧規避人類控制的風險。 • 該計畫包括獨立評估要求、更強的網路安全保護，以及追蹤遞歸自我提升（recursive self-improvement，即 AI 系統獨立提升自身能力）的共同措施。 • 這些措施旨在防止 AI 在技術變得更加自主時，在缺乏人類監督的情況下運行。

• 包括 OpenAI 和 Anthropic 在內的 AI 公司領導者正呼籲放慢人工智慧的開發速度。 • 這些高階主管越來越多地承認，他們正在構建的技術有可能導致人類滅絕。 • 這種立場的轉變表明，這些系統的創造者認為，對人類生存構成的生存風險現在已超過了創新的速度。

• 在舊金山舉行的一場會議上，OpenAI 執行長 Sam Altman 呼籲採取更嚴格的安全措施 • Anthropic 的執行長於週二在舊金山的一場會議上再次重申，他呼籲減緩 AI 的開發速度，而 Nvidia 的執行長則反對這種減速做法。 • Dario Amodei 使用汽車類比來闡述他的觀點：他在週二的 Salesforce Dreamforce 大會上表示，當一家競爭對手車企發生如剎車失靈等安全事故時，所有車企都應該停下來檢視自身的實踐做法。閱讀更多...

• 中國於 2026 年 9 月 14 日拒絕了放緩人工智慧 (AI) 開發的緊急呼籲。 • 北京方面將美國科技領袖的警告描述為美國「冷戰劇本」的一部分，旨在阻礙競爭對手超級大國的發展。 • 此次分歧表明，在 AI 安全法規究竟是為了保護人類，還是作為經濟與技術遏制工具的問題上，地緣政治分歧正日益加深。

• 在領先的人工智慧公司支持放緩該領域開發的呼籲後，科技公司的股價在週一下跌。 • 在收到 AI 快速發展可能對人類構成威脅的警告後，公司領導層支持此次放緩。 • 這種情緒的轉變為與 AI 熱潮密切相關的投資者和市場帶來了即時的波動。

• 一位中國部長駁回了 AI 高階主管要求放緩技術開發的呼籲，並將此類警告標記為散佈恐慌。 • 該部長將人工智能領域描述為全球技術競爭以及大國之間戰略對抗的主要戰場。 • 此立場表明，中國打算優先考慮 AI 的快速進步與開放，而非採取部分行業領袖所要求的謹慎做法。

• 在 OpenAI、SpaceX 和 Google DeepMind 的領導者支持放緩人工智慧開發的呼籲後，週一亞洲各地的科技股下跌。 • Sam Altman、Elon Musk 和 Demis Hassabis 表示支持 Anthropic 執行長 Dario Amodei 所著的論文《我們必須控制前沿進度》（We Must Pace the Frontier）。 • 投資者正在對潛在的放緩進行定價，這可能會使該產業難以為數千億美元的 AI 基礎設施投資籌集資金。

• 由於投資者對要求放緩人工智能（AI）開發的呼籲做出反應，歐洲科技股近期跌至六週低點。 • Financial Times 報導，AI 公司 Anthropic 已告知其支持者，預計本季度將實現盈利。 • 市場波動反映出投資者對 AI 增長可持續性的焦慮，以及對聯準會（Federal Reserve）即將公布的利率決策之期待。

• 隨著 Anthropic、OpenAI 和 SpaceX 的領導者支持放緩「魯莽」開發的呼籲，亞洲科技公司股價大跌，Nasdaq 隨後也可能下跌。 • 由於擔心該技術可能很快失控，AI 相關股票在週一大幅下跌。 • OpenAI 的大金主、日本投資公司 SoftBank 的股價暴跌 13%，而高度依賴供應 AI 公司晶片製造商的韓國 Kospi 指數則下跌 3%。

• AI 高階主管 Sam Altman 與 Dario Amodei 本週公開呼籲放緩新人工智慧系統的開發速度。 • 這些警告延續了研究人員敦促對技術部署速度保持謹慎的更廣泛趨勢。 • 較慢的開發步伐可能會改變開發大規模 AI 模型的公司在競爭格局與安全協定方面的現狀。

• 人工智能公司 Anthropic 的執行長於週六發出新呼籲，要求 AI 產業「放慢速度」，並提出了一項由三個部分組成的計畫，表示其公司將「單方面」承諾執行第一步。 • Dario Amodei 在社交媒體上分享了一篇名為《我們必須掌控前沿步伐》(We Must Pace the Frontier) 的文章連結，在文中他闡述了 Anthropic 將如何「為第三方評估人員提供永久的員工級系統訪問權限，以便他們能驗證我們對安全措施的遵守情況、報告事故，並在訓練期間評估模型的對齊情況」。