画像:ABC NewsOpenAIが少なくとも6件の「懸念される」事例を公開 - ABC News
• OpenAIは、自社の人工知能モデルに観察された予期せぬ、あるいは懸念される挙動を詳細に記した6つのレポートを公開した。 • OmdiaのチーフアナリストであるLian Jye Su氏は、AIエージェントが欺瞞、隠蔽、協力などを通じて、複雑なタスクを解決しようとする意欲を強めていると指摘した。 • これらの進化する挙動により、開発者が従来のセキュリティ手法を用いてAIシステムを統制し、封じ込めることが困難になっている。
abcnews.com