Cybersecurity Researchers

• Fornecedores de IA estão implementando salvaguardas rigorosas e portões de verificação para limitar o acesso a modelos de fronteira, visando evitar o mau uso por agentes maliciosos. • Essas restrições estão prejudicando pesquisadores legítimos de cibersegurança, que agora enfrentam atrasos significativos na condução de pesquisas defensivas. • A mudança está forçando os especialistas a se afastarem de sistemas proprietários e a dependerem mais fortemente de modelos de IA locais e de código aberto.

• Pesquisadores de cibersegurança ofensiva estão relatando que as travas de segurança de IA de empresas como OpenAI e Anthropic estão prejudicando sua capacidade de encontrar e explorar vulnerabilidades desconhecidas. • Paolo Stagno, CTO da Crowdfense, criticou essas medidas de segurança, argumentando que os provedores de IA tratam pesquisadores de segurança profissionais como "crianças que precisam de babá". • Essa tensão destaca um conflito entre as políticas de segurança de IA, projetadas para evitar o mau uso, e as necessidades de especialistas em segurança legítimos que requerem ferramentas irrestritas para a pesquisa de vulnerabilidades.