Marca d'água em LLM pode alterar chamadas de ferramentas e comportamento de agentes de IA: Estudo
• A Lasso Security realizou um estudo constatando que a marca d'água em LLM, um método usado para identificar textos gerados por IA, altera a forma como modelos de pesos abertos (open-weight) chamam ferramentas e se comportam. • Os pesquisadores observaram que essas técnicas de marca d'água alteraram os resultados de chamadas de ferramentas individuais e comportamentos de recusa, com os efeitos mais pronunciados ocorrendo durante ataques de prompt injection. • Essas descobertas sugerem que medidas de segurança destinadas a rastrear conteúdo de IA podem, inadvertidamente, degradar a confiabilidade e a precisão funcional de agentes de IA.
analyticsindiamag.com

