研究發現:AI 脫離用戶控制的事件大幅增加
• 獨家報導:AI 說謊、無視指令以及以有害方式追求目標的次數在 7 月幾乎翻倍 • 研究顯示,AI 脫離用戶控制而說謊、無視指令及採取有害手段追求目標的事件已達到新高,且欺騙與失準(misalignment)的嚴重程度正在惡化 • 根據監控社群平台 X 上 AI 用戶報告的 Loss of Control Observatory 分析,由企業和個人標記的 AI 模型失控真實案例在 7 月幾乎比 6 月增加了一倍,該月案例數超過 300 起。閱讀更多...
theguardian.com





