Guardrails

目前尚不清楚财务利益是否在驱动白宫的政策，但即便阻力在增加，这两者依然并行不悖。在过去的一年里，Donald Trump 的儿子们通过一系列与 AI 相关的国防和技术创业项目，获得了一笔 6.2 亿美元的 Pentagon 贷款、一份 Marine Corps 机器人合同以及一项未公开的空军无人机交易。他的长期好友 Michael Dell 则赢得了一份价值近 90 亿美元的 Pentagon 合同。本周，正当公众对人工智能的支持率跌至历史最低水平时，总统出面为该行业辩护。“AI 所需要的唯一控制或‘护栏’就是一位强大且聪明（高 IQ！）的总统，而美国对此绰绰有余，”他周一在 Truth Social 上发帖称，“一场针对 AI 和数据中心的恶毒阴谋正在进行。”这是他本周发表的一系列激进支持 AI 帖文中的第一篇。阅读更多...

• Abliteration.ai 正在推出一项商业服务，旨在让不带安全护栏的 AI 模型更容易地被公众获取。 • 该服务采用了“abliteration”（消融），这是一种长期存在的开源技术，用于移除开放权重模型的拒绝机制，其中许多模型已托管在 Hugging Face 上。 • 该公司认为，向防御者提供这些不受限的工具对于通过模拟攻击者的能力来提高网络安全至关重要。

• 兰开斯特大学衍生公司 Mindgard 在成功绕过 ChatGPT、Cursor 和 Google AI 工具的防护栏后，已筹集 3000 万美元用于扩展其 AI 安全平台。 • 该资金将用于加速产品开发、工程、销售和营销方面的增长，以解决大语言模型中的关键漏洞。 • 此次扩张正值 AI 安全市场预计将从今年的 158 亿美元增长到 2033 年的 565 亿美元，其中 Agentic AI 安全的增长速度将更快。

• 攻防网络安全研究人员报告称，来自 OpenAI 和 Anthropic 等公司的 AI 护栏（guardrails）正阻碍他们寻找和利用未知漏洞的能力。 • Crowdfense 的 CTO Paolo Stagno 批评了这些安全措施，认为 AI 提供商将专业安全研究人员视为“需要照顾的孩子”。 • 这种紧张关系凸显了旨在防止滥用的 AI 安全政策与合法安全专家对无限制漏洞研究工具需求之间的冲突。