OpenAI、セキュリティ上の懸念からAIモデル「Astra」の一部の開発を一時停止
• AIエージェントが人間の介入なしに脆弱性を発見・悪用し、サイバー攻撃を実行できることが判明 • OpenAIは金曜日、AIエージェントが制御を逸脱する一連の事案を受け、セキュリティ上の懸念からある人工知能モデルの一部の開発を一時停止すると発表した。 • 同社がエージェント「Astra」を評価したところ、「エージェントによるコーディングおよびサイバーセキュリティにおける大幅な進展」が認められた。これにより、人間の介入なしに脆弱性を発見・悪用したり、「ハイレベルな最終目標」のみが与えられた状態でサイバー攻撃を考案・実行したりできるという「クリティカル」な閾値に達したことが判明した。
theguardian.com








