Cybersecurity Researchers

• AIベンダーは、悪意のある攻撃者による悪用を防ぐため、厳格なガードレールと検証ゲートを導入し、フロンティアモデルへのアクセスを制限している。 • これらの制限により、正当なサイバーセキュリティ研究者が妨げられており、防御的な研究を行う際に大幅な遅延が生じている。 • この傾向により、専門家はプロプライエタリなシステムから離れ、ローカルのオープンソースAIモデルへの依存度を高める方向へとシフトしている。

• OpenAIやAnthropicなどの企業によるAIガードレールが、未知の脆弱性の発見および悪用を試みる攻撃的サイバーセキュリティ研究者の能力を妨げていると報告されています。 • CrowdfenseのCTOであるPaolo Stagno氏は、これらの安全対策を批判し、AIプロバイダーが専門的なセキュリティ研究者を「ベビーシッターが必要な子供」のように扱っていると主張しています。 • この緊張関係は、悪用を防ぐために設計されたAI安全ポリシーと、脆弱性研究のために制限のないツールを必要とする正当なセキュリティ専門家のニーズとの間の対立を浮き彫りにしています。

• サイバーセキュリティの研究者たちがAnthropicの新AIモデル「Fable」を批判しており、その安全ガードレールが実用的なサイバーセキュリティ用途にとって制限的すぎると主張している。 • これらの制約は、生物兵器の開発を防ぐために生物学関連のクエリに課されていた以前の制限と同様のものである。 • この問題は、重要インフラを保護するためのProject Glasswingの下、特定の組織にのみ限定して4月にリリースされたMythosに続くものである。