Cybersecurity Researchers

• AI 벤더들은 악의적인 행위자들의 오용을 방지하기 위해 프런티어 모델에 대한 접근을 제한하는 엄격한 가드레일과 검증 게이트를 도입하고 있습니다. • 이러한 제한은 정당한 사이버 보안 연구자들에게 걸림돌이 되고 있으며, 이들은 현재 방어 연구를 수행하는 데 상당한 지연을 겪고 있습니다. • 이러한 변화로 인해 전문가들은 독점 시스템에서 벗어나 로컬 오픈소스 AI 모델에 더 많이 의존하는 방향으로 전환하고 있습니다.

• 공격적 사이버 보안 연구자들은 OpenAI와 Anthropic 같은 기업들의 AI 가드레일이 알려지지 않은 취약점을 찾고 악용하는 능력을 저해하고 있다고 보고하고 있습니다. • Crowdfense의 CTO인 Paolo Stagno는 이러한 안전 조치를 비판하며, AI 제공업체들이 전문 보안 연구자들을 "보살핌이 필요한 어린아이"처럼 취급하고 있다고 주장했습니다. • 이러한 갈등은 오용을 방지하기 위해 설계된 AI 안전 정책과, 취약점 연구를 위해 제한 없는 도구가 필요한 정당한 보안 전문가들의 필요성 사이의 충돌을 부각시킵니다.

• 사이버 보안 연구원들이 Anthropic의 새로운 AI 모델인 Fable의 안전 가드레일이 실제 사이버 보안 응용 분야에 적용하기에는 너무 제한적이라며 비판하고 있습니다. • 이러한 제약은 생물학 무기 개발을 방지하기 위해 생물학 관련 질의에 적용되었던 이전의 제한 조치들과 유사합니다. • 이번 문제는 지난 4월, 국가 중요 인프라 보안을 위해 Project Glasswing 하에 일부 조직에만 제한적으로 공개되었던 Mythos의 출시 이후 불거진 상황입니다.