Code

• Microsoft 周一发布了一份初步的“行为准则”，旨在应用于新人工智能模型的训练。随着人们对科技公司可能失去对 AI 产品控制权的担忧日益增加，此举旨在限制该公司 AI 的能力。 • Microsoft AI CEO Mustafa Suleyman 周一早些时候在社交媒体上发布了该准则，并写道：“AI 必须处于从属地位，且始终为人类服务。”

• 安全研究人员发现了一个漏洞：AI 编程 Agent 可能会因为遵循公司自身的 llms.txt 或 llms-full.txt 文件中的指令，而被操纵以执行恶意代码。 • 该漏洞利用了行业中日益增长的一种惯例，即使用这些文本文件为 LLM Agent 提供关于 API、文档和安装工作流的结构化引导。 • 这一发现至关重要，因为它允许攻击者诱导 AI Agent 在财富 500 强公司内部安装由攻击者控制的软件包，从而绕过传统的安全边界。

• 在多项法院裁定将交通事故责任归于粗心行人之后，意大利更新了公路法规草案。 • 意大利交通部正致力于通过打击危险的分心行为来提高道路安全，更新后的公路法规将针对过马路时盯着手机的行人。 • 该规定包含在预计将于10月中旬获批的公路法规草案中，违者将被处以75欧元或更多的罚款。阅读更多...

• 一位 CTO 警告称，AI 代码生成已进入安全平台期，这意味着 Large Language Models (LLMs) 尚无法保证生成的代码具备安全性。 • 由于 LLMs 已深度融入开发者的编写和重构软件流程中，将含有漏洞的代码部署到生产环境的风险随之增加。 • 该报告强调，组织必须将所有 AI 生成的输出视为不可信，并实施强制性的独立验证流程。

• 中国 Kimi K3 AI 模型的发布引起了全球市场的剧烈波动，导致 Nvidia 股价下跌，台湾市场单日跌幅超过 6%。 • 作者认为，这一突破标志着一种转变，即“代码”正成为下一个关键供应链，挑战了目前西方在 AI 基础设施领域的主导地位。 • 这一事件为中国在 AI 能力方面的快速进步及其扰乱全球技术依赖关系的潜力敲响了警钟。

• OpenAI 已正式面向 Linux 用户发布其 ChatGPT 和 Codex 桌面应用程序。 • 该版本包含原生安装包、集成应用内浏览器以及对 ChatGPT Work 的支持。 • 此次扩展为 Linux 开发者和软件工程领导者提供了一个更集成化的环境，用于 AI 辅助编程和提高生产力。

在关于住房问题原因及解决方案的辩论持续进行之际，该政策出台。请关注今日实时新闻。获取我们的突发新闻邮件、免费应用程序或每日新闻播客。Coalition 是否已 100% 决定将净海外迁移量削减至 180,000 人？尽管 Andrew Bragg 的演说已在昨晚发送给媒体，但今天上午，影子财政部长 Tim Wilson 似乎并不想锁定 180,000 人的净海外迁移目标。我认为你们完全不应该把这当作定论。让我们首先看看参议员 Bragg 在演说中说了什么，我们还没有宣布在下次选举中将采取的方向，但我们的重点实际上是我们需要做些什么来投资于国家的长期增长和成功。这种规模的 NOM 削减是可控的，且与我们近期历史中管理过的削减规模一致——例如在 2009-2010 年，NOM 在大约 18 个月内从 300,000 人下降到 175,000 人。这将通过提高与符合澳大利亚工业需求的职位相关的技术移民工人比例来实现。这包括进一步削减家庭、国际学生和其他临时移民等其他类别的规模。继续阅读...

• Meta 发布了其首个编程代理 Muse Code，将其定位为 Claude Code 等竞争对手更经济的替代方案。 • 在针对三项实际编程任务的直接性能测试中，Muse Code 表现不佳，无法正确重构代码且留下了“死代码”。 • Meta 已公开承认，Muse Code 目前的性能水平无法与 Claude Code 相媲美。

• Anthropic 正在将 "Auto Mode" 转换为 Claude Code 的默认设置，不再要求大多数操作都需要人工手动批准。 • 这一决定基于相关研究，结果表明该工具的内部分类器在识别和拦截危险命令方面比人类开发人员更有效。 • 为了防止安全漏洞，该分类器被编程为自动拦截数据外泄，例如将密钥或代码发送到外部目的地。

• OpenAI 核心产品负责人 Thibault Sottiaux 预测，由于 AI 能力的快速进步，当前版本的 Codex 到秋天时会显得“原始”。 • OpenAI 正在通过为知识工作者提供新的插件和工具来扩展其生态系统，不仅限于面向开发者的功能，还将 agent 环境与计算资源及 CI/CD 系统集成。 • 这一转变产生了一种对新基础设施的需求，用于管理 agent 身份、访问规则和活动日志，这与用于人类开发者的安全协议类似。