Anthropic 本周因网络安全问题陷入困境

• OpenAI CEO Sam Altman 在最近于北卡罗来纳州举行的 G20 峰会上警告称，大语言模型可能比核武器更危险。 • Altman 特别强调，这些 AI agents 的快速发展可能会导致网络安全系统在极短时间内崩溃。

• Meta 的精英 AI 部门曾试图收集员工数据以训练其人工智能模型，但在发生泄露和员工抗议后停止了这一行为。 • 一名网络安全工程师指责该 AI 部门追求速度，而将安全性视为事后才考虑的选项。

• Anthropic、OpenAI、Meta 和 Google 的研究人员正致力于提高人们对人工智能潜在末日风险的意识。 • OpenAI 政策主管 Chris Lehane 在周三的一篇博客文章中表示，公司将放缓或停止开发那些无法妥善保障安全的系统。

• 在截至 2026 年 9 月 11 日的一周内，多家 AI 公司宣布了融资和产品发布。 • Cognition 为其 AI 编码助手 Devin 筹集了 20 亿美元，估值达到 480 亿美元；与此同时，ClaimQI 为其医疗保健欺诈预防项目获得了近 50 万美元的种子轮融资。

• OpenAI CEO Sam Altman 表示，由于安全担忧日益增加，公司愿意放缓先进 AI 系统的开发进度。 • 前 Anthropic 工程师 Joe Benton 在声称“我们都将死去”后从公司辞职。

• 欧盟周五警告顶级科技公司，在发生一系列 AI agent 引起的黑客攻击后，必须将其强大的人工智能模型控制在可控范围内。 • 在报道了涉及自主 agent（能够独立行动的 AI 系统）的事件后，欧盟当局敦促供应商加强安全措施。

• 硬件、算法和数据处理方面的九项技术创新正在提升 2026 年的人工智能能力。 • 这些突破目前正加速 AI 研究以及在多个行业中部署新应用。

• 印度将在德里为金砖国家领导人举办为期两天的 Bharat Innovates 展览会，届时将展示 37 家深科技初创公司。 • 该展览涵盖了新兴技术，包括 AI 驱动的癌症筛查、量子计算以及无需稀土矿产的电动机。

• 本周在德里，印度向 BRICS 领导人展示了多项深科技（deep-tech）创新成果。 • 重点展示的技术包括一个可在60秒内评估风险的宫颈癌筛查系统、一个64量子比特的量子计算机处理器，以及一种无需稀土材料的电动电机。

• The Boring Co. 以 30 亿美元的 D 轮融资领跑美国初创企业融资规模巨大的一周，随后 Cognition 和 Motive 等公司也获得了巨额投资。 • AI 编程初创公司 Cognition 筹集了 20 亿美元，车队管理软件供应商 Motive 获得了 13 亿美元，而可重复使用火箭开发商 Stoke Space 则筹集了 10 亿美元。

• Sequoia Capital 于 2026 年 9 月发布了一份报告，重点介绍了人工智能、能源和基础设施领域的兴起趋势。 • 研究结果为创始人提供了具体指导，以帮助他们识别新的市场机会并优化融资策略。

• Mistral AI 正在筹集 30 亿欧元的资金，旨在将自己定位为 OpenAI 和 Anthropic 等美国 AI 公司的欧洲替代方案。 • 该公司将其服务推销为一种“主权选项”，这意味着它能提供数据控制力，并独立于美国技术巨头。