中国在监管机构针对大模型风险的同时,致力于制定AI安全基准
• 中国已启动一项由国家主导的计划,旨在开发AI安全基准,以减轻与大语言模型(LLMs)相关的风险。 • 该系统将利用自动化模糊测试、压力测试和人工监督,以减少数据泄露、控制幻觉率并防止“越狱”攻击。 • 此举标志着北京致力于参与全球努力,以加强对生成式AI技术的监管和安全性。
scmp.com热门话题
关于 Regulators 的最新报道和分析。
18 篇文章
• 中国已启动一项由国家主导的计划,旨在开发AI安全基准,以减轻与大语言模型(LLMs)相关的风险。 • 该系统将利用自动化模糊测试、压力测试和人工监督,以减少数据泄露、控制幻觉率并防止“越狱”攻击。 • 此举标志着北京致力于参与全球努力,以加强对生成式AI技术的监管和安全性。
scmp.com• FCA 首席执行官 Nikhil Rathi 警告称,随着技术演进速度超过监管框架,金融监管机构正与 AI 进入一场“军备竞赛”。 • 此次警告背景是超过 80% 的金融公司已将 AI 整合到其业务运营中,导致监督方面出现显著差距。 • 核心问题在于时间上的错位:AI agent 可以在数周或数月内进行调整,而传统的监管周期则依赖于季度和年度审查。
cryptobriefing.com
图片:The News• 欧洲政策制定者和顶级银行家警告称,金融监管未能跟上人工智能快速演进的步伐。 • 官员们强调,在AI投资以及推动技术突破所需的企业发展方面,欧洲目前落后于其他地区。 • 该团体呼吁采取一种平衡的方法,在为AI采用提供公共支持的同时,专注于更新监管框架。
thenews.com.pk
图片:International Business Times• 欧洲金融监管机构承认,他们正难以跟上人工智能技术的快速演进。 • 为应对这些风险,一项名为 FLARE-AI (Flaw Reporting for AI) 的新计划已经启动,旨在建立一个记录 AI 缺陷的集中框架。 • 该平台类似于 Downdetector,允许用户报告关键事件,例如聊天机器人泄露个人数据,或生成恶意软件及炸弹制作指南。
ibtimes.com• 欧洲银行家和金融监管机构警告称,人工智能的快速进步目前已超越了现有的监管框架。 • 官员们正努力在风险缓解的必要性与欧洲在AI投资及前沿公司成长方面落后的现实之间寻求平衡。 • 这种在发展与监管方面的差距至关重要,因为它威胁到欧洲在AI驱动经济中的全球竞争力与金融稳定。
cnbc.com• 欧洲银行已正式敦促金融监管机构克制干预股票市场。 • 该请求强调了维持市场驱动定价以及避免人为监管干预的重要性。 • 此举至关重要,因为银行旨在确保市场稳定性和流动性,同时避免由监管变动可能引发的波动。
investing.com• 自由派最高法院大法官对一项扩大总统解雇监管人员权限的裁决发表了严厉的异议,大法官 Sonia Sotomayor 将这种权力比作“英国王室”的权力。 • 该决定引发了人们对联邦机构独立性的担忧,尽管美联储理事 Lisa Cook 强调,央行必须免于政治干扰,以确保稳健的经济管理。 • 在一项对民主党有利的独立裁决中,法院在 Watson v. Republican National Committee 案中裁定,只要在规定时间内寄出的选票,即使在选举日之后送达也可被计入。
theguardian.com
图片:NYTimes• 最高法院扩大了总统解雇独立政府监管人员的权限,但明确裁定 Federal Reserve 官员不能被随意解雇。 • 在一项针对 Roosevelt 总统的裁决中,法院将执行“行政职能”的官员与行使“行政权力”的官员区分开来。 • 法院认定 Federal Trade Commission (FTC) 的职责主要是准司法性和准立法性的,而非政治性或行政性的。
nytimes.com
图片:teiss• 随着更强大模型的开发带来了新的运营风险,金融监管机构正在加强对人工智能的审查。 • 核心担忧集中在先进 AI 系统缺乏透明度和可见性,这使得监管机构难以维持有效的监督。 • BBC 最近的一份报告强调,AI 复杂程度的快速提升与现有监测机制的控制能力之间存在日益扩大的差距。
teiss.co.uk• 瑞士金融监管机构 Marlene Amstad 敦促各银行和监管机构迅速采用新技术,以应对由 AI 放大且日益严重的网络安全威胁。 • Amstad 强调,由于 AI 模型越来越多地被用于暴露系统性风险,快速修复漏洞已变得至关重要。 • FINMA 正在积极推动全球监管机构采用 AI 以增强金融体系,并特别关注数字资产的安全性。
economictimes.indiatimes.com
图片:The Banker• 银行正迅速将 AI 整合到信用审核中。欧洲中央银行 2025 年 11 月的一项评估显示,2023 年至 2024 年间,用于信用评分的 AI 使用率从 15% 跃升至 30%。 • 监管机构担心这些“黑箱” AI 模型缺乏透明度,且随着技术发展速度超过现有的金融监督,导致出现了巨大的合规差距。 • 这一分歧至关重要,因为不透明的 AI 决策可能会导致系统性风险、不公平的信贷实践,并使贷款机构面临潜在的监管处罚。
thebanker.com• Apple 已延迟向欧盟境内的 iPhone 用户推送其全新的 Siri AI 功能。 • 该公司声称已提出一项具体方案以确保 AI 工具符合当地法律,但据报道,欧盟监管机构拒绝参与沟通或接受该方案。 • 这一冲突源于欧盟严格的监管环境,可能涉及旨在防止技术垄断并确保公平竞争的《数字市场法案》(DMA)。
straitstimes.com• Apple 宣布,其新的 Siri AI 功能将不会在欧盟境内的 iPhone 和 iPad 上推出。 • 该公司声称,由于监管障碍,欧盟监管机构阻碍了这款人工智能软件的发布。 • 这一决定凸显了大型科技公司与欧盟在遵守数字竞争和数据隐私法方面持续存在的紧张关系。
independent.ie• Apple 宣布,作为 iOS 27 或 iPadOS 27 的一部分,其新的 Siri AI 功能将无法提供给欧盟地区的 iPhone 和 iPad 用户。 • 该公司声称,此次延迟是因为欧盟委员会在过去几个月中拒绝接受 Apple 提出的任何关于监管合规的建议。 • 此次僵局凸显了大型科技公司与欧盟监管机构在数字竞争和数据隐私法方面持续存在的紧张关系。
business-standard.com
图片:Scrip• 欧洲药品管理局 (EMA) 的一份报告显示,制药公司在整个药物开发生命周期中对 AI 的采用量大幅增加。 • 目前的工业应用范围从优化临床试验地点的选择,到复杂监管文件的自动起草不等。 • 报告警告称,在用于监管评估的 AI 工具方面仍存在显著的“差距”,并质疑监管机构是否具备跟上步伐的能力。
insights.citeline.com
图片:The New Stack• 欧盟正在引入《网络韧性法案》(CRA),该法案为制造商在数字产品安全方面(包括使用 AI 生成代码的产品)设定了严格的法律义务。 • 该法案的一项关键要求是,制造商必须在发现任何被积极利用的漏洞后 24 小时内,向欧盟网络安全局 ENISA 报告。 • 这项法规至关重要,因为它消除了“是 AI 干的”这一借口,迫使公司在开发生命周期中实施显著的行为和流程转变,以确保问责制。
thenewstack.io• 加州监管机构本周与 SpaceX 首席执行官 Elon Musk 达成诉讼和解,此前该诉讼指控一家州机构对这家火箭公司及其首席执行官存在政治偏见。 • 作为和解的一部分,California Coastal Commission 承认其成员在 2024 年关于 SpaceX Falcon 9 发射计划的听证会上,就 Musk 的政治信仰发表了“不恰当”的言论。
theguardian.com
图片:House Republicans Financial Services Committee• 众议院共和党人主张,金融监管机构必须调整治理框架,以跟上人工智能、数字资产和实时支付系统创新的步伐。 • 国会金融服务负责人认为,随着这些技术在重塑美国人的储蓄、投资和交易方式,监管的演进至关重要。 • 该声明反映了在金融部门技术快速变革背景下,关于监管现代化的更广泛讨论。
republicans-financialservices.house.gov