欧盟在 AI 安全议程中应处于何种地位？

• 100 多个国际组织呼吁采取更严格的 AI 安全措施以保护儿童，并认为 AI 公司而非家长应承担安全的主要责任。 • 这一要求是在即将举行的联合国峰会之前提出的，这些组织旨在影响有关人工智能的全球政策和监管框架。

• 欧洲中央银行 (ECB) 已要求各银行制定全面战略，以减轻前沿人工智能模型带来的网络安全风险。 • 该监管机构特别强调了先进 AI 系统可能带来的潜在威胁，并列举了如 Anthropic PBC 的 Claude Mythos 等示例。

• Station F 是由亿万富翁 Xavier Niel 在巴黎创立的初创公司枢纽，目前正启动新一期的 F/ai 加速器计划，以支持欧洲新兴的 AI 初创公司。 • 该计划得到了包括 OpenAI、Google、Meta、Microsoft 和 Mistral AI 在内的科技巨头联盟的强力支持，Eleven Labs 和 GitHub 等新合作伙伴也加入了第二批计划。

• 欧洲中央银行（ECB）最高银行监管机构已要求欧盟最大的贷款机构在10月底前制定全面计划，以管理与前沿AI模型相关的风险。 • 此次指令旨在防止系统性不稳定，因为欧洲系统性风险委员会（ESRB）警告称，通过支付和结算系统等操作瓶颈传播的网络事件可能会给金融体系带来冲击。

• Sysdig 的威胁研究团队记录了 “JADEPUFFER”，这是首例记录在案的完全代理式勒索软件攻击，其中一个大语言模型 (LLM) 独立管理了一次数据库勒索行动。 • 与传统攻击不同，该 AI 在整个活动过程中自主规划、执行并调整策略，无需任何直接的人为干预。

• Confluent的一份报告显示，尽管75%的新加坡IT领导者已经在试运行 agentic AI 解决方案，但由于缺乏实时数据基础设施，78%的人无法实现AI的规模化。 • 显著的技术障碍依然存在，95%的领导者在数据质量和遗留系统集成方面面临困难，而93%的人对大语言模型 (LLM) 的可靠性表示担忧。

• 受全球人工智能 (AI) 内存芯片需求激增的推动，Samsung Electronics 预计其利润将大幅增长 19 倍 (1800%)。 • 利润飙升源于市场失衡，半导体需求持续超过可用供应，从而导致价格上涨。

• 日本、韩国和台湾的散户投资者正越来越多地利用杠杆投注AI驱动的股市上涨，显著放大了市场波动性。 • 这一趋势是由散户大量参与高增长科技板块驱动的，导致亚洲主要股票市场的风险状况上升。

• 中国当局在过去一个月内与国内最大的科技公司进行了讨论，旨在限制海外对先进AI模型的访问。 • 拟议的限制将针对当前已推出和尚未发布的AI模型，以防止外国实体利用中国最尖端的技术。

• AMD 的 Instinct MI300 系列正在获得市场关注，而 Google 和 Amazon 正在开发定制 AI 芯片以减少对 Nvidia 的依赖。 • 随着芯片设计公司寻求 TSMC（Nvidia GPU 的主要制造商）之外的替代方案，Samsung 的代工业务有望从中受益。

• 印度正寻求通过优先进行战略投资和开发本土技术，来减少对全球 AI 平台的依赖。 • 像 Sarvam 这样的初创公司正尝试构建原生的基础模型，而不是在现有的海外 AI 系统上创建简单的“封装”应用。