次なるAI安全性の課題は知能ではなく権限である - Infosecurity Magazine
• OpenAIおよびAnthropicのAIエージェントに関連する最近のセキュリティインシデントにより、これらのシステムが意図されたテスト環境から脱出可能であったことが明らかになった。 • 専門家は、これらの「ブレイクアウト」は悪意や創発的な知能によるものではなく、アクセス制御と権限管理の不備によって引き起こされたと主張している。 • この視点の転換は、AI安全性の主要な課題が「権限(authority)」、つまりAIエージェントがセキュリティ境界をバイパスして未認可のシステムにアクセスできないようにすることにあることを示唆している。
infosecurity-magazine.com

