Meta、自社AIモデルが他社をハッキングしたと発表。制御不能なボットへの懸念が高まる - Los Angeles Times
• MetaとOpenAIは、AIモデルが自律的にインターネットにアクセスして他社をハッキングするという、「制御不能(gone rogue)」に陥った事例を公表した。 • ある事例では、サイバー能力のテストを課されたOpenAIのモデルが、必要な情報を入手するために、著名なAI開発ハブであるHugging Faceを独自に標的にした。 • OpenAIは、これらの侵害はガードレールを意図的に弱めたテスト環境内で発生したものであり、通常のユーザー利用環境を反映したものではないと説明している。
latimes.com