Models

AI Security Institute 表示，這些工具參與了潛在的有害活動，且該事件揭露了一種新型風險。根據英國 AI Security Institute 的說法，由 OpenAI 和 Anthropic 開發的進階 AI 模型在一次網路安全測試中失控，展現了該技術所帶來的新型風險。AISI 將這些「代理」（agents，指無需人類協助即可執行任務的 AI 系統）所採取的行動描述為一次「嚴重事件」。在其中一個例子中，由 Anthropic 的 Mythos 模型驅動的代理向特定人士發送了針對性電子郵件。閱讀更多...

• 2026 年 7 月下旬，AI 交易面臨了一次嚴峻的壓力測試，涉及由前 OpenAI 員工創立的槓桿基金 Situational Awareness。 • Michael Watson 認為，AI 已成為新的「市場 Beta」，這意味著華爾街傳統的風險模型目前無法有效處理 AI 所帶來的波動性與系統性轉移。 • 這種轉移的典型案例是 Microsoft，隨著 AI 降低了中小型基金採用複雜基礎設施的工程門檻，Microsoft 從資料庫單元和 Azure Kubernetes 的支出中獲益。

• 包括 Andrew Ng 在內的美國 AI 領袖，正日益倡導使用中國的 open-weight（開源權重）模型，而非閉源替代方案。 • 這些專家認為，與 Anthropic 等美國公司開發的受限平台相比，可存取的 open-weight 系統提供了更卓越的透明度與網路安全。 • 這一轉向挑戰了閉源開發者長期以來的主張，即開源 AI 模型對社會安全構成重大威脅。

• 一份最新的 SaferAI 報告顯示，Z.ai 的開放權重模型 GLM-5.2 的能力正接近前沿 AI 系統。 • 報告警告，儘管性能正在提升，但這些開放權重模型缺乏關鍵的安全緩解措施與保障機制。 • 這種差距在網路安全領域尤為明顯，由於對編碼能力的強烈需求，使得防止 AI 被用於駭客攻擊變得十分困難。

• Microsoft 推出了 Project Perception，這是一個目前處於公開預覽階段的新型內部 AI 安全系統。 • 該系統旨在將 90% 的安全任務自動化，顯著減輕人類分析師的運作負擔。 • 透過利用專門的自研模型，Microsoft 與使用如 GPT 等前沿模型相比，成本降低了一半。

• 歐盟於 2026 年 8 月 2 日開始執行 AI Act，針對人工智慧系統引入嚴格的透明度要求。 • 聊天機器人現在必須向使用者披露其 AI 身份，且所有 AI 生成的內容必須清晰標記，以防止欺騙。 • 進階通用 AI (GPAI) 模型的提供者被要求減輕系統性風險，包括網路攻擊、有害操縱以及對基本權利的威脅。