중국, 거대 모델 리스크 대응 위해 AI 안전 벤치마크 구축 추진
• 중국이 거대 언어 모델(LLM)과 관련된 리스크를 완화하기 위해 국가 주도의 AI 안전 벤치마크 개발 이니셔티브를 시작했습니다. • 이 시스템은 자동화된 퍼징(fuzzing), 스트레스 테스트 및 인간의 감독을 활용하여 데이터 유출을 줄이고, 환각 현상 비율을 제어하며, '탈옥(jailbreak)' 공격을 방지할 계획입니다. • 이번 조치는 생성형 AI 기술의 감독과 보안을 강화하려는 글로벌 노력에 동참하겠다는 중국 정부의 의지를 보여줍니다.
scmp.com


