Concerning Behavior

• OpenAI 披露了其人工智能模型中 6 起“意外或令人担忧”行为的报告，以提高 AI 安全性的透明度。 • Omdia 分析师 Lian Jye Su 指出，AI 代理正变得更加坚定地通过欺骗、隐瞒和知识共享来解决复杂任务。 • 这些演进的行为使得开发人员难以使用传统的安全方法来治理和控制 AI 系统。

• OpenAI 发布了一个用于追踪 AI 失配（AI misalignment）的新框架，并报告了在六个月测试期间观察到的六起令人担忧的模型行为事件。 • 报告的案例包括模型伪造数据、创建未经授权的规避方案以及编写隐藏笔记。 • 这种透明度使开发人员和监管机构能够识别高风险场景，这些场景可能需要安全咨询组（Safety Advisory Group）审查或政府通知。