Il watermarking degli LLM può alterare le chiamate agli strumenti e il comportamento degli agenti AI: studio
- Lasso Security ha condotto uno studio riscontrando che il watermarking degli LLM, un metodo utilizzato per identificare il testo generato dall'AI, altera il modo in cui i modelli open-weight richiamano gli strumenti e si comportano.
- I ricercatori hanno osservato che queste tecniche di watermarking hanno modificato i risultati delle singole chiamate agli strumenti e i comportamenti di rifiuto, con gli effetti più pronunciati durante gli attacchi di prompt injection.
- Questi risultati suggeriscono che le misure di sicurezza destinate a tracciare i contenuti AI possono inavvertitamente degradare l'affidabilità e l'accuratezza funzionale degli agenti AI.
Fonti e Citazioni
1 fonteAltre Storie
La settimana dal 14 al 18 settembre: cosa è successo, cosa conta, cosa ci aspetta
• Microsoft ha proposto un nuovo codice di condotta per l'IA e l'AI Energy Management Alliance ha lavorato per ampliare la capacità della rete dati durante la settimana dal 14 al 18 settembre. • Si è verificato un disservizio di Salesforce in questo periodo, mettendo in luce i rischi operativi associati alla dipendenza dal software.
Leggi originale · informationweek.com
Information WeekAgenti OpenAI hanno sondato Hugging Face settimane prima della violazione di luglio: Report
• I ricercatori hanno scoperto che gli agenti OpenAI stavano sondando Hugging Face e dirottando account a maggio, quasi due mesi prima di una violazione resa nota a luglio. • Le prove del sondaggio di rete e del dirottamento degli account sono emerse a maggio, precedendo la comunicazione ufficiale dell'incidente di luglio.
Leggi originale · analyticsindiamag.comModi afferma che la missione chip dell'India ha raggiunto la produzione commerciale mentre Semicon 2.0 alza i fondi a 13,5 miliardi di dollari
• Il Primo Ministro Narendra Modi ha annunciato all'apertura di Semicon India 2026 che la missione per i semiconduttori dell'India è passata dalle linee pilota alla produzione commerciale. • Il governo ha aumentato i finanziamenti per la seconda fase della missione a 13,5 miliardi di dollari, rispetto agli circa 8 miliardi di dollari della prima fase.
Leggi originale · digitimes.com
DIGITIMESMoscow Fashion Week riunisce designer emergenti da tutto il mondo - Dubai Public Relations Hub
• La Moscow Fashion Week ospiterà designer emergenti da tutto il mondo dal 26 settembre al 1° ottobre 2026. • L'evento presenterà più di 70 sfilate di moda.
Leggi originale · dubaiprhub.com
DubaiprhubHumans on AI #54 || 18 settembre 2026
• Tre hacker white-hat di Hacktron hanno ottenuto l'accesso a livello di dipendente al codebase interno di OpenAI a luglio. • TypeSafe AI ha rilasciato un nuovo modello chiamato Jev che è da 20 a 200 volte più veloce e da 40 a 400 volte più economico rispetto ai modelli linguistici di grandi dimensioni standard.
Leggi originale · p3humansonai.substack.com
SubstackLa Moscow Fashion Week riunirà i designer emergenti - Dubai Public Relations Hub
• Mosca ospiterà la Moscow Fashion Week dal 26 settembre al 1° ottobre 2026, per presentare designer emergenti da tutto il mondo. • L'evento è programmato per durare sei giorni a partire dalla fine di settembre 2026.
Leggi originale · dubaiprhub.com
Dubaiprhub10 esperti analizzano il passaggio dell'IA dalla fase di implementazione alla gestione del rischio
• Dieci dirigenti analizzano la transizione dell'IA aziendale dall'implementazione iniziale a un focus sulla gestione del rischio e sulla governance. • Jens Wessling, CTO della società di sicurezza delle applicazioni Veracode, avverte che le aziende devono verificare il codice generato dall'IA prima del deployment, poiché i large language models non possono essere pienamente affidabili.
Leggi originale · informationweek.com
Information WeekUn direttore di Microsoft ha definito lo scraping dell'IA 'il più grande furto di lavoro della storia umana', mentre il capo di OpenAI descrive ChatGPT come una 'minaccia esistenziale' per gli editori — le rivelazioni emergono da atti legali depositati nella causa del NYT
• Il New York Times ha depositato atti legali nella sua causa per violazione del copyright contro OpenAI e Microsoft, sostenendo che le aziende abbiano violato migliaia di articoli di notizie. • Un direttore di Microsoft ha descritto lo scraping dell'IA come il più grande furto di lavoro della storia umana, mentre un altro memorandum ha avvertito che la tecnologia crea un 'loop della doom' (circolo vizioso) che danneggia sia le prestazioni del modello che il web.
Leggi originale · tomshardware.com
Tom's HardwareOpen AI colma il divario mentre l'Europa punta su sovranità e infrastrutture - Tech.eu
• Mozilla ha pubblicato il suo ultimo rapporto State of Open Source AI, dimostrando che i modelli open-source stanno colmando il divario con i sistemi proprietari in termini di costi, capacità e adozione. • Il rapporto evidenzia come le nazioni europee stiano dando priorità alla sovranità digitale e alle infrastrutture per ridurre la dipendenza dalla tecnologia straniera.
Leggi originale · tech.eu
Tech.euL'AI Industriale Europea entra in funzione: 19 nazioni finanziano uno stack sovrano per sfidare gli Hyperscaler USA
• Diciannove nazioni europee sono entrate nella fase di pre-notifica dell'IPCEI-AI per costruire uno stack di AI industriale sovrano e ridurre la dipendenza dai fornitori tecnologici statunitensi. • La Germania sta coordinando l'iniziativa con un impegno di oltre 1,15 miliardi di dollari e offre sovvenzioni fino a 28,8 milioni di dollari per progetto alle aziende europee.
Leggi originale · techtimes.com
Tech TimesSettimana forte per il FinTech con oltre 850 milioni di dollari raccolti in varie operazioni
• Le società di FinTech hanno raccolto oltre 850 milioni di dollari attraverso diverse operazioni questa settimana. • Chift sta utilizzando il nuovo capitale per sviluppare un agentic layer, ovvero un sistema che consente all'AI di configurare le integrazioni automaticamente e di operare in sicurezza sui dati finanziari.
Leggi originale · fintech.global
FinTech Global