Marca d'água em LLM pode alterar chamadas de ferramentas e comportamento de agentes de IA: Estudo
• A Lasso Security realizou um estudo constatando que a marca d'água em LLM, um método usado para identificar textos gerados por IA, altera a forma como modelos de pesos abertos (open-weight) chamam ferramentas e se comportam. • Os pesquisadores observaram que essas técnicas de marca d'água alteraram os resultados de chamadas de ferramentas individuais e comportamentos de recusa, com os efeitos mais pronunciados ocorrendo durante ataques de prompt injection. • Essas descobertas sugerem que medidas de segurança destinadas a rastrear conteúdo de IA podem, inadvertidamente, degradar a confiabilidade e a precisão funcional de agentes de IA.
analyticsindiamag.com
![[AINews] GPT-6 Astra: O maior lançamento de LLM da história da OpenAI](/_next/image?url=https%3A%2F%2Fsubstackcdn.com%2Fimage%2Ffetch%2F%24s_!75mH!%2Cw_1200%2Ch_675%2Cc_fill%2Cf_jpg%2Cq_auto%3Agood%2Cfl_progressive%3Asteep%2Cg_auto%2Fhttps%253A%252F%252Fsubstack-post-media.s3.amazonaws.com%252Fpublic%252Fimages%252F3e58156f-49e2-48e8-af49-ce5edd8e68b6_1118x1118.png&w=1920&q=85)
