Cybersecurity Researchers

• AI 供应商正在实施严格的护栏和验证机制以限制对前沿模型的访问，旨在防止恶意行为者的滥用。 • 这些限制正在阻碍合法的网络安全研究人员，导致他们目前在开展防御性研究时面临严重延迟。 • 这一转变正迫使专家们放弃使用专有系统，转而更加依赖本地的开源 AI 模型。

• 攻防网络安全研究人员报告称，来自 OpenAI 和 Anthropic 等公司的 AI 护栏（guardrails）正阻碍他们寻找和利用未知漏洞的能力。 • Crowdfense 的 CTO Paolo Stagno 批评了这些安全措施，认为 AI 提供商将专业安全研究人员视为“需要照顾的孩子”。 • 这种紧张关系凸显了旨在防止滥用的 AI 安全政策与合法安全专家对无限制漏洞研究工具需求之间的冲突。

• 网络安全研究人员正在批评 Anthropic 的新 AI 模型 Fable，称其安全防护机制过于严格，无法满足实际的网络安全应用需求。 • 这些限制与此前为防止生物武器开发而对生物相关查询实施的限制类似。 • 此问题发生在 4 月发布 Mythos 之后，后者仅限 Project Glasswing 下的部分组织使用，旨在保障关键基础设施的安全。