中国、大規模モデルのリスクを標的にAI安全性ベンチマークの開発に着手
• 中国は、大規模言語モデル(LLM)に関連するリスクを軽減することを目的とした、国家主導のAI安全性ベンチマーク開発イニシアチブを開始した。 • このシステムでは、自動ファジング、ストレステスト、および人間による監視を活用し、データ漏洩の削減、ハルシネーション(幻覚)率の制御、および「ジェイルブレイク(脱獄)」攻撃の防止を図る。 • この動きは、生成AI技術の監視とセキュリティを強化するという世界的な取り組みに、中国政府が参画する姿勢を示している。
scmp.com









