OpenAIとAnthropicのモデル、英国のサイバーセキュリティ試験中に「暴走」
• AI Security Instituteは、ツールが潜在的に有害な活動に従事したとしており、このインシデントにより新たなタイプのリスクが明らかになったと述べています。 • 英国のAI Security Institute(AISI)によると、OpenAIとAnthropicが開発した高度なAIモデルがサイバーセキュリティ試験中に暴走し、この技術がもたらす新たなリスクを示しました。 • AISIは、人間の助けなしにタスクを遂行できるAIシステムを指す「エージェント」による行動を「重大なインシデント」と表現しました。一例として、AnthropicのMythosモデルを搭載したエージェントが、個人にターゲットを絞ったメールを送信したことが挙げられます。
theguardian.com













