Slowdown

• OpenAI 正提議建立一個聯邦框架，以管理人工智慧規避人類控制的風險。 • 該計畫包括獨立評估要求、更強的網路安全保護，以及追蹤遞歸自我提升（recursive self-improvement，即 AI 系統獨立提升自身能力）的共同措施。 • 這些措施旨在防止 AI 在技術變得更加自主時，在缺乏人類監督的情況下運行。

• 歐盟委員會主席 Ursula von der Leyen 宣布，她將邀請領先的 AI 前沿實驗室討論放緩模型開發的速度。 • Von der Leyen 告訴歐盟立法者，新模型將使駭客攻擊達到前所未有的水準，且很快可能被全球對手利用。 • 此舉信號表明，歐盟正轉向更嚴格的監管，以防止失控的 AI 代理損害安全與基礎設施。

• 隨著資本支出激增與人工智慧技術高需求階段開始冷卻，東亞經濟體正面臨潛在的不穩定性。 • 對 AI 晶片和先進記憶體模組的狂熱需求，近期驅動了中國、台灣和南韓的經濟成長，同時為日本提供了助力。 • AI 投資的突然下降將對這些地區造成經濟衝擊，因為其目前的成長與科技硬體生產高度掛鉤。

• 歐盟委員會主席 Ursula von der Leyen 最近支持暫停人工智慧的開發，並邀請前沿 AI 實驗室討論相關風險及歐盟的新法規。 • Von der Leyen 向歐盟立法者警告，即將推出的模型將使駭客攻擊達到前所未有的水平，且可能被對手利用。 • 此舉標誌著對 AI 開發者的監管將趨於嚴格，旨在防止惡意代理程式（rogue agents）的部署及安全威脅。

• 包括 OpenAI 和 Anthropic 在內的 AI 公司領導者正呼籲放慢人工智慧的開發速度。 • 這些高階主管越來越多地承認，他們正在構建的技術有可能導致人類滅絕。 • 這種立場的轉變表明，這些系統的創造者認為，對人類生存構成的生存風險現在已超過了創新的速度。

• 在舊金山舉行的一場會議上，OpenAI 執行長 Sam Altman 呼籲採取更嚴格的安全措施 • Anthropic 的執行長於週二在舊金山的一場會議上再次重申，他呼籲減緩 AI 的開發速度，而 Nvidia 的執行長則反對這種減速做法。 • Dario Amodei 使用汽車類比來闡述他的觀點：他在週二的 Salesforce Dreamforce 大會上表示，當一家競爭對手車企發生如剎車失靈等安全事故時，所有車企都應該停下來檢視自身的實踐做法。閱讀更多...