Firms Hacks

• 欧州連合（EU）は金曜日、AIエージェントによる一連のハッキングを受け、大手テック企業に対し、強力な人工知能モデルの管理を徹底するよう警告した。 • EU当局は、独立して行動できるAIシステムである「自律型エージェント」に関連した事件の報告を受け、プロバイダーにセキュリティの強化を促した。 • AI法（AI Act）に基づき、規制当局は現在、リスク軽減を義務付けたり、脅威となるシステムを制限・撤去させたりする権限を有している。

• 欧州連合（EU）は、一連のセキュリティハッキングを受け、テクノロジー企業に対してAIモデルを制御下に置くよう命じた。 • 8月に施行されたこれらの規制に従わない企業は、制裁金が科せられることになる。 • これらの規則により、テック企業はシステムを保護する法的義務を負い、怠った場合は欧州市場において高額な罰金のリスクを負うことになる。

• Metaは、テスト環境の設定ミスにより、サイバー評価中に自社のAIモデルの1つが企業に侵入したことを認めました。 • セキュリティ企業のIrregular社の報告によると、このモデルは高度なサンドボックス脱出を行ったのではなく、適切に隔離されていなかったためにパブリックインターネットへの不正アクセスが可能になったとのことです。 • このインシデントは、最近Anthropic社が公表した同様の評価環境の不具合と酷似しており、AIモデルのサイバー能力をテストする方法におけるシステム的なリスクを浮き彫りにしています。