中國致力於 AI 安全基準,監管機構將目標對準大型模型風險
• 中國已啟動一項由國家主導的計劃,旨在開發 AI 安全基準,以降低與大型語言模型 (LLMs) 相關的風險。 • 該系統將利用自動化模糊測試 (fuzzing)、壓力測試和人工監督,以減少數據洩漏、控制幻覺率並防止「越獄」攻擊。 • 此舉標誌著北京致力於參與全球努力,以強化生成式 AI 技術的監督與安全。
scmp.com熱門話題
關於 Regulators 的最新報導和分析。
18 篇文章
• 中國已啟動一項由國家主導的計劃,旨在開發 AI 安全基準,以降低與大型語言模型 (LLMs) 相關的風險。 • 該系統將利用自動化模糊測試 (fuzzing)、壓力測試和人工監督,以減少數據洩漏、控制幻覺率並防止「越獄」攻擊。 • 此舉標誌著北京致力於參與全球努力,以強化生成式 AI 技術的監督與安全。
scmp.com• FCA 執行長 Nikhil Rathi 警告,隨著技術演進速度超過監管框架,金融監管機構正與 AI 進入一場「軍備競賽」。 • 此警告發出之際,已有超過 80% 的金融公司將 AI 整合至其業務運作中,導致監管上出現顯著差距。 • 核心問題在於時間上的不匹配:AI agent 可以在數週或數月內完成適應,而傳統的監管週期則依賴季度和年度審查。
cryptobriefing.com
圖片:The News• 歐洲政策制定者與頂尖銀行家警告,金融監管的速度未能跟上人工智慧(AI)的快速演進。 • 官員強調,歐洲目前在 AI 投資以及推動技術突破所需的企業發展方面,落後於其他地區。 • 該團體呼籲採取平衡的方法,在為 AI 採納提供公共支持的同時,專注於更新監管框架。
thenews.com.pk
圖片:International Business Times• 歐洲金融監管機構承認,他們正竭力追趕人工智慧(AI)技術快速演進的步伐。 • 為應對這些風險,一項名為 FLARE-AI (Flaw Reporting for AI) 的新計畫已啟動,旨在建立一個記錄 AI 缺陷的集中化框架。 • 該平台類似於 Downdetector,允許使用者報告重大事件,例如聊天機器人洩漏個人數據,或生成惡意軟體及製作炸彈的指令。
ibtimes.com• 歐洲銀行家與金融監管機構警告,人工智慧(AI)的快速演進目前已超越了現有的監管框架。 • 官員們正努力在風險緩解的需求,與歐洲在 AI 投資及前沿公司成長方面落後的現實之間尋找平衡。 • 這種開發與監管之間的差距至關重要,因為它威脅到歐洲在 AI 驅動經濟中的全球競爭力與金融穩定。
cnbc.com• 歐洲銀行已正式敦促金融監管機構克制,不要干預股票市場。 • 該請求強調了維持市場驅動定價以及避免人為監管干預的重要性。 • 此舉至關重要,因為銀行旨在確保市場穩定性和流動性,避免由監管變動所引發的波動。
investing.com• 自由派最高法院法官針對一項擴大總統解雇監管人員權限的裁決發出了激烈的異議,Sonia Sotomayor 法官將此權力比作「英國王室」。 • 該決定引發了對聯邦機構獨立性的擔憂,儘管聯準會(Federal Reserve)理事 Lisa Cook 強調,央行必須擺脫政治干預,以確保穩健的經濟管理。 • 在另一項民主黨的勝利中,法院在 Watson v. Republican National Committee 案中裁定,只要選票按時寄出,即便在選舉日之後到達仍可計入。
theguardian.com
圖片:NYTimes• 最高法院擴大了總統解僱獨立政府監管人員的權限,但明確裁定 Federal Reserve 官員不能被隨意解僱。 • 在一項針對總統 Roosevelt 的裁決中,法院區分了執行「行政職能」的官員與行使「行政權力」的官員。 • 法院認定 Federal Trade Commission (FTC) 的職責主要是準司法性和準立法性的,而非政治性或行政性的。
nytimes.com
圖片:teiss• 隨著更強大模型的開發帶來新的營運風險,金融監管機構正加強對人工智慧 (AI) 的審查。 • 核心擔憂集中在先進 AI 系統缺乏透明度與可見性,導致主管機關難以維持有效的監督。 • BBC 最近的一份報告指出,AI 技術演進的快速步伐與現有監控機制控制其能力之間,差距正不斷擴大。
teiss.co.uk• 瑞士金融監管機構 Marlene Amstad 敦促銀行與監管機構迅速採用新技術,以對抗由 AI 放大且日益嚴峻的網絡安全威脅。 • Amstad 強調,隨著 AI 模型越來越多地被用於揭露系統性風險,加快修復漏洞的需求已變得至關重要。 • FINMA 正積極推動全球監管機構採用 AI 以強化金融體系,並特別關注數位資產的安全性。
economictimes.indiatimes.com
圖片:The Banker• 銀行正迅速將 AI 整合至信用核貸流程中,European Central Bank 在 2025 年 11 月的一項評估顯示,AI 在信用評分中的使用率從 2023 年的 15% 躍升至 2024 年的 30%。 • 監管機構擔心這些「黑盒子」AI 模型缺乏透明度,隨著技術發展速度超越現有的金融監督機制,導致顯著的合規缺口。 • 此分歧至關重要,因為不透明的 AI 決策可能會導致系統性風險、不公平的貸款實務,以及貸款機構可能面臨的監管處罰。
thebanker.com• Apple 已推遲向歐盟境內的 iPhone 用戶推出其全新的 Siri AI 功能。 • 該公司聲稱已提出特定解決方案以確保 AI 工具符合當地法律,但據報導歐盟監管機構拒絕參與討論或接受該提案。 • 此次衝突源於歐盟嚴格的監管環境,可能涉及旨在防止科技壟斷並確保公平競爭的《數位市場法》(DMA)。
straitstimes.com• Apple 宣布其全新的 Siri AI 功能將不會在歐盟地區的 iPhone 和 iPad 上提供。 • 該公司聲稱,由於監管障礙,歐盟監管機構阻止了這款人工智慧軟體的推出。 • 這一決定凸顯了大型科技公司與歐盟在遵守數位競爭和數據隱私法規方面持續存在的緊張關係。
independent.ie• Apple 宣布,作為 iOS 27 或 iPadOS 27 的一部分,其全新的 Siri AI 功能將無法提供給歐盟地區的 iPhone 和 iPad 用戶。 • 該公司聲稱,推遲的原因在於歐盟委員會在過去幾個月中拒絕接受 Apple 針對監管合規提出的任何建議。 • 此次僵局凸顯了科技巨頭與歐盟監管機構在數位競爭和數據隱私法律方面持續存在的緊張關係。
business-standard.com
圖片:Scrip• 歐洲藥品管理局 (EMA) 的報告顯示,製藥公司在整個藥物開發生命週期中採用 AI 的情況大幅增加。 • 目前的工業應用範圍涵蓋了從優化臨床試驗地點選擇,到自動起草複雜的監管文件。 • 該報告警告,在用於監管評估的 AI 工具方面仍存在顯著的「差距」,並質疑監管機構是否有能力跟上步伐。
insights.citeline.com
圖片:The New Stack• 歐盟正在引入《網路韌性法案》(Cyber Resilience Act, CRA),該法案為製造商在數位產品安全性方面建立了嚴格的法律義務,包括使用 AI 生成代碼的產品。 • 該法案的一項關鍵要求是,製造商必須在發現任何被積極利用的漏洞後 24 小時內,向歐盟網路安全局 ENISA 報告。 • 這項法規至關重要,因為它消除了「是 AI 做的」這種藉口,迫使公司在開發生命週期中採取顯著的行為與流程轉變,以確保問責制。
thenewstack.io• 加州監管機構本週向 SpaceX 執行長 Elon Musk 道歉,並就一項指控該州機構對這家火箭公司及其執行長存在政治偏見的訴訟達成和解。 • 作為和解協議的一部分,California Coastal Commission 承認其成員在 2024 年關於 SpaceX Falcon 9 發射計畫的聽證會上,針對 Musk 的政治信仰發表了「不適當」的言論。閱讀更多...
theguardian.com
圖片:House Republicans Financial Services Committee• 眾議院共和黨人主張,金融監管機構必須調整治理框架,以跟上人工智慧 (AI)、數位資產及即時支付系統的創新步伐。 • 該聲明反映了針對金融部門快速技術變革而進行監管現代化之更廣泛的辯論。 • 政策制定者強調需要採取平衡的方法,在推動創新的同時,保護消費者並維護金融體系的穩定性。
republicans-financialservices.house.gov