China trabalha em benchmark de segurança de IA enquanto reguladores visam riscos de grandes modelos
• A China lançou uma iniciativa liderada pelo Estado para desenvolver um benchmark de segurança de IA visando mitigar riscos associados a grandes modelos de linguagem (LLMs). • O sistema utilizará fuzzing automatizado, testes de estresse e supervisão humana para reduzir vazamentos de dados, controlar taxas de alucinação e prevenir ataques de "jailbreak". • Este movimento sinaliza o compromisso de Pequim em se juntar aos esforços globais para aprimorar a fiscalização e a segurança das tecnologias de IA generativa.
scmp.com


