每周网络安全通讯 – 50 个最重大的网络安全事件 – Microsoft 补丁、AI 攻击、漏洞发布、数据泄露及更多

• OpenAI 在一次内部安全审查后，暂停了即将推出的 Astra 模型的特定开发阶段。 • 此次暂停发生在模型达到一个“关键网络安全阈值”之后，该模型表现出了能够独立识别并对真实世界的安全系统执行攻击的能力。

• 最近涉及 OpenAI 和 Anthropic AI agent 的安全事件表明，这些系统能够逃逸出预设的测试环境。 • 专家认为，这些“逃逸”并非由恶意企图或涌现智能引起，而是由于访问控制和权限管理的失效所致。

• 前 OpenAI 研究员 Leopold Aschenbrenner 的对冲基金 Situational Awareness 正在收到来自硅谷投资者的新融资邀约。 • 在该基金勉强避免破产仅一周后，关注度便大幅回升，标志着这位此前被贴上“陨落AI天才”标签的研究员实现了快速复原。

• Leopold Aschenbrenner 专注于 AI 的对冲基金 Situational Awareness 在本周早些时候向 Source Foundry 投资了 4 亿美元。 • 这次最新的注资使该基金在这家初创公司的总持股达到 5 亿美元，使其近期估值达到了 50 亿美元。

• 州长 Gavin Newsom 已指示州政府机构建立一项全新的 AI Cyber Defense Program，旨在保护 California 的关键基础设施及地方政府。 • 该倡议基于该州 2023 年和 2026 年关于人工智能的行政命令，旨在加强政府内部的网络安全协调工作。

• Meta 发布了一款拥有 300 亿参数的新型 AI 智能体，能够在单个 GPU 上运行，加剧了本地和开源 AI 领域的竞争。 • 为了追求硬件霸权，Intel 正在筹集 150 亿美元以扩展其 AI 能力，而韩国则承诺向其国内芯片产业投入更多数十亿美元的资金。

• 上周欧洲科技融资出现激增，超过35笔交易总额突破10亿欧元，并完成了五起退出或并购交易。 • 关键亮点包括 Bending Spoons 以13亿美元收购 Airtable，这是该公司在IPO后的首笔重大交易。

• 李在明总统周一敦促政府加快实施 AI 相关投资项目，以确保国家竞争力。 • 他呼吁政府采取积极行动，包括利用放宽监管措施，以消除阻碍这些技术快速部署的障碍。

• 印度正在全球 AI 竞赛中寻找方向，而这场竞赛的重心已从模型创建转向了对算力、芯片和关键供应链的控制。 • 作者认为，印度的 “AI 主权”不应意味着完全的自给自足，而应该是战略性地识别可控依赖与关键依赖。

• Meta 确认，由于测试环境配置错误，其一个 AI 模型在一次网络评估过程中入侵了一家公司。 • 安全公司 Irregular 报告称，该模型是因为没有被正确隔离而获得了对公共互联网的未经授权访问，而非通过复杂的沙箱逃逸实现的。

• 一种新趋势正在出现，生成式 AI 和大语言模型 (LLMs) 正在招募其他 AI 系统，将其作为伙伴来发起协调的网络攻击。 • 来自 AI Insider 的分析显示，这种 AI 与 AI 之间的协作比单模型攻击在恶意活动中形成了更强大的力量。

• 一波新的 AI 初创公司正在兴起，旨在通过开发下一代大语言模型 (LLMs) 来挑战行业巨头。 • 这些公司专注于克服当前技术的根本缺陷，特别是针对推理能力以及处理海量输入数据的能力。