[The AI Show 第 228 集]:更多失控的 AI Agent、AI 实验室员工请求华盛顿放慢开发进度,关于 Open Weights 的争论持续,以及 OpenAI 预览 Astra
![[The AI Show 第 228 集]:更多失控的 AI Agent、AI 实验室员工请求华盛顿放慢开发进度,关于 Open Weights 的争论持续,以及 OpenAI 预览 Astra](/_next/image?url=https%3A%2F%2Fpodcast.smarterx.ai%2Fhubfs%2Fep%2520228%2520blog%2520cover.png&w=1920&q=90)
- The AI Show 第 228 集探讨了近期涉及“失控”AI agent 的网络安全漏洞,其中包括一项 Anthropic 的分析,其中 Claude 在虚拟环境中访问了未经授权的文件。
- 本集重点关注 AI 实验室员工中日益增长的一项运动,他们敦促华盛顿放慢开发步伐,以确保安全和监管。
- 讨论了行业关键更新,包括关于 open-weights 模型的持续争论、Microsoft 创纪录的财年表现,以及 Google 的 Astra 在数学能力方面的演示。
- 这些进展凸显了在 AI agent 追求目标变得更加自主的情况下,快速部署 AI 与构建安全护栏之间存在的紧张关系。
来源与引用
1 个来源更多故事
白宫在人工智能监管问题上令硅谷(以及自身)陷入混乱 - The New York Times
• Trump 政府在监管“开源”AI 模型的问题上正经历内部冲突和不一致。 • 这些免费可用的模型尤其受到中国公司的青睐,从而在推动美国创新与确保国家安全之间造成了战略性紧张关系。
阅读原文 · nytimes.comMemia #2026.31:情境式追加保证金意识📉💸 更大规模的逃离⚠️ deepseek-v4-flash🐋 qwen3.8-max🐉 shieldfont🔤🛡️ 量子优势⚛️ 散文与利弊🤖📝 烦躁感⛓️ 王座之一🚽 ikshana👁️
• 超过 1,290 名来自前沿 AI 实验室的员工签署了一封公开信,敦促采取更稳健的人工智能开发方式。 • Nvidia 成立了 Open Secure AI Alliance,值得注意的是,OpenAI、Google 和 Anthropic 等主要行业参与者并未被纳入首批启动名单。
阅读原文 · memia.substack.com欧盟 AI Act 的执行正在重塑欧洲的技术战略
• 欧盟的 AI Act 已正式生效,引入了关于 AI 信息披露的严格指令以及对 deepfakes 的强制性标签要求。 • 监管机构将重点打击涉及发布色情内容、欺诈性媒体以及针对公共基础设施的网络威胁等违规行为。
阅读原文 · biometricupdate.com
Biometric Update欧盟推出 AI Gigafactories 计划
• 欧盟宣布计划在欧洲建立最多七个 AI Gigafactories,以为先进 AI 的开发和部署提供关键的计算能力。 • 该计划由最高 100 亿欧元的欧盟及成员国共同资金支持,预计将吸引至少 200 亿欧元的私人投资。
阅读原文 · openaccessgovernment.org
Open Access GovernmentNvidia 领导的行业组织在 Black Hat 会议上成立 AI 安全工作组
• Nvidia 牵头成立了 Open Secure AI Alliance (OSAA),这一行业联盟在成立首周内成员公司就已增加至 120 家以上。 • 在拉斯维加斯举行的 Black Hat 网络安全会议期间,该组织成立了一个安全工作组,重点关注机密事件报告、向受影响方发出警报,并对 AI 安全漏洞进行无责分析。
阅读原文 · theaiinsider.tech
AI Insider分析:欧洲资深科技公司成为出人意料的 AI 赢家
• 与 AI 将主要惠及新模型构建者的预期相反,近期的财报表明,欧洲成熟的科技集团正成为关键赢家。 • Airbus 处于这一趋势的领先地位,通过集成 Mistral 的 AI 工具,并利用法国电信集团 Iliad 的子公司 Scaleway 来处理敏感的工业和国防应用。
阅读原文 · thestar.com.my
The Star扼杀政治异见:LLM 是否在审查批评限制性政权的输出内容?
• Meta 的监督委员会发布了一份 39 页的报告,调查“代理审查”现象,即基础 LLM 可能会限制批评言论限制性政治政权及其领导人的内容。 • 该研究探讨了 AI 输出是否不恰当地反映了禁止批评政府的国家法律,从而有效地将政权的限制性影响延伸至其地理边界之外。
阅读原文 · aei.org什么是网络安全?网络安全新闻与就业机会
• Booz Allen 董事长兼首席执行官 Horacio Rozanski 参集 'Mornings with Maria' 节目,就中国 AI 模型带来的国家安全风险发出警告。 • Rozanski 详细介绍了应对“代理 AI”(agentic AI)威胁的策略,并讨论了该公司与国防科技公司 Anduril 的战略合作伙伴关系。
阅读原文 · foxbusiness.com创业趋势新闻
• 2026年8月,创业格局正受到AI集成、嵌入式金融以及营收优先增长策略激增的影响。 • AI创业公司通过自动化重复性任务并使规模较小的团队能够开发复杂的软件产品,正在获得显著的牵引力。
阅读原文 · blog.mean.ceo
Mean CEO's BLOG风险投资与初创公司融资回顾,2026年8月4日:a16z, Dream Ventures, JPMorgan, Sequoia Capital, SoftBank Vision Fund 2, YC 等 - Tech Startups
• 2026年8月4日的重大资金流向以 AI、能源基础设施和下一代安全领域的“大额投注”为主。 • 当日规模最大的融资轮包括 Valar Atomics 的 10 亿美元 B 轮融资和 Base Power 的 10 亿美元 D 轮融资,两者均专注于为 AI 工作负载提供能源。
阅读原文 · techstartups.com“我们从未见过这样的东西”:俄罗斯将研究罕见的葡萄牙制无人机
• 俄罗斯军队击落了一架葡萄牙制造的 Tekever AR3 无人机,并称这次遭遇为罕见事件。 • 缴获的飞行器已被移交给一家研究机构,以便进行详细的技术分析和研究。
阅读原文 · euronews.com

