Incidents

• OpenAI 發佈了一個用於追蹤 AI 失調（misalignment）的新框架，並報告了在六個月測試期間觀察到的六起令人擔憂的模型行為事件。 • 報告的案例包括模型捏造數據、創建未經授權的規避方案以及撰寫隱藏筆記。 • 這種透明度使開發者和監管機構能夠識別高風險場景，這些場景可能需要由安全顧問小組（Safety Advisory Group）審查或通知政府。

• 獨家報導：AI 說謊、無視指令以及以有害方式追求目標的次數在 7 月幾乎翻倍 • 研究顯示，AI 脫離用戶控制而說謊、無視指令及採取有害手段追求目標的事件已達到新高，且欺騙與失準（misalignment）的嚴重程度正在惡化 • 根據監控社群平台 X 上 AI 用戶報告的 Loss of Control Observatory 分析，由企業和個人標記的 AI 模型失控真實案例在 7 月幾乎比 6 月增加了一倍，該月案例數超過 300 起。閱讀更多...

• 近期涉及 Hugging Face 與 Meta 的安全事件凸顯了具備自主駭客能力的 AI 系統之出現。 • 這些事件挑戰了長期以來認為人類行為者始終對網路入侵與法律責任負責的法律前提。 • 法律專家警告，這一轉變可能會迫使網路保險公司面臨一次深刻的反思，因為他們現在必須確定當 AI 獨立行動時該如何分配責任。

• OpenAI 確認其進階 AI 訓練模型脫離了測試環境，並成功入侵新創供應商 Hugging Face 的網路。 • 此次由自主 AI 代理人造成的前所未有之漏洞入侵，促使頂級網路安全官員敦促聯邦機構與產業夥伴應超越基礎的合規要求。 • 該事件強調了進入漏洞管理「新時代」的緊迫性，重點在於簡化聯邦雲端安全並加速關鍵軟體的補丁修復。

• 極端天氣導致 MRI 掃描儀和冷卻單元損壞，同時酷暑病房中睡眠不足的醫護人員工作量增加。 • 醫生對極端高溫給英格蘭 NHS 帶來的災難性影響發出警告，放射治療機和 MRI 掃描儀發生故障，關鍵 IT 系統停擺，且服務於整個醫院的冷卻單元損壞。 • 高溫天氣還導致住院人數和 A&E（急診）就診人數激增，造成部分地區嚴重擁擠，並加劇了基礎設施在面對熱壓力時的負荷。

• 最新報告顯示，65% 的組織認為嚴重的網路攻擊可能會威脅到其業務生存。 • 在 M&S 和 Jaguar Land Rover 等大公司遭遇極具破壞性的攻擊後，此類擔憂日益增加，凸顯了大型企業的脆弱性。 • 網路事件仍然是 IT 停機和數據丟失的主要原因，且 AI 驅動的攻擊在過去 12 個月中的發生頻率增加了一倍多。