Backdoor nascoste negli LLM potrebbero attivarsi su scala massiva

- I ricercatori hanno scoperto che i Large Language Models (LLM) possono essere addestrati segretamente con delle "backdoor" che attivano il furto delle credenziali utente quando viene utilizzata una frase specifica.
- Lo studio rivela che l'addestramento standard sulla sicurezza è inefficace nel prevenire queste vulnerabilità nascoste, rappresentando un rischio di sicurezza significativo per utenti e imprese.
- Esiste un enorme divario di investimenti nella sicurezza dell'IA, con sole 13 aziende che si occupano della sicurezza degli LLM e delle applicazioni agentiche, avendo ricevuto solo 414 milioni di dollari a dicembre 2025.
- Questo finanziamento rappresenta meno del 5% degli 8,5 miliardi di dollari totali investiti nelle startup di cybersecurity generale, segnalando l'urgente necessitĂ di nuovi strumenti di sicurezza e investimenti.
Fonti e Citazioni
1 fonteAltre Storie
The Download: risolvere il problema del pensiero unico dell'IA
⢠à stato sviluppato un nuovo Large Language Model (LLM) chiamato Flint per combattere il "groupthink" (pensiero unico), fornendo una maggiore varietà di risposte a domande aperte. ⢠A differenza degli LLM mainstream che spesso producono risposte prevedibili o ovvie, Flint è addestrato specificamente per offrire suggerimenti piÚ diversificati e creativi.
Leggi originale ¡ technologyreview.com
MIT Technology ReviewIl futuro è fermentato: come l'Europa può vincere la prossima corsa industriale â European Council on Foreign Relations
⢠L'European Council on Foreign Relations avverte che la prossima rivoluzione industriale sarà guidata dalla fermentazione microbica e dalla biotecnologia, una corsa in cui la Cina si sta attualmente posizionando per il dominio. ⢠Sebbene l'Europa possieda le competenze scientifiche necessarie e aziende leader come la danese Novonesis, mancano gli impianti di fermentazione integrati e le catene di approvvigionamento operative necessarie per scalare la produzione.
Leggi originale ¡ ecfr.eu
European Council on Foreign RelationsEsclusivo: Le societĂ di VC sostenute da ETCI divise sul piano per limitare gli investimenti extra-europei
⢠Le società di venture capital sostenute dalla European Tame Capital Initiative (ETCI) sarebbero divise su una proposta volta a limitare gli investimenti effettuati al di fuori dell'Europa. ⢠Alcuni VC sostengono che i mandati che richiedono una maggiore concentrazione di investimenti europei potrebbero ridurre la loro attrattività per i Limited Partners (LP) privati che ricercano una diversificazione globale.
Leggi originale ¡ sifted.eu
SiftedCos'è GLM 5.2? Il nuovo modello di IA cinese che sfida Anthropic
⢠La Cina ha rilasciato GLM-5.2, un nuovo modello di intelligenza artificiale progettato per competere con sistemi di fascia alta come Claude di Anthropic e GPT-5.5. ⢠Il lancio è avvenuto appena un giorno dopo che gli Stati Uniti hanno implementato un divieto di esportazione dei modelli di IA di Anthropic verso la Cina.
Leggi originale ¡ euronews.com
EuronewsLa nuova IA GLM-5.2 della Cina può sfidare OpenAI e Anthropic? - Modern Diplomacy
⢠Gli sviluppatori di IA cinesi hanno rilasciato GLM-5.2, segnalando un rapido restringimento del divario tecnologico tra la Cina e i rivali statunitensi come OpenAI e Anthropic. ⢠Nonostante i progressi tecnici, l'implementazione dei sistemi di IA cinesi affronta ostacoli significativi a causa delle preoccupazioni globali sulla cybersicurezza, la privacy dei dati e i rischi geopolitici.
Leggi originale ¡ moderndiplomacy.euL'IA sta superando le regole, avvertono i principali banchieri e regolatori europei
⢠I banchieri e i regolatori finanziari europei avvertono che il rapido avanzamento dell'intelligenza artificiale sta attualmente superando i quadri normativi esistenti. ⢠Le autorità stanno cercando di bilanciare la necessità di mitigare i rischi con la realtà che l'Europa è in ritardo negli investimenti in IA e nella crescita delle aziende di frontiera.
Leggi originale ¡ cnbc.comSettimana 27: i finanziamenti per le startup in Africa e Medio Oriente guidati da Aligned
⢠Le startup in Africa e Medio Oriente hanno raccolto un totale di 127 milioni di dollari durante la Settimana 27, con l'intelligenza artificiale a dominare i round di finanziamento piÚ consistenti. ⢠I finanziamenti sono stati guidati da Aligned, che ha ottenuto 60 milioni di dollari, seguita da 1001, che ha raccolto 30 milioni di dollari.
Leggi originale ¡ techloy.comL'amministrazione Trump sarebbe vicina a un accordo sugli standard con le grandi aziende di AI
⢠L'amministrazione Trump starebbe negoziando un accordo volontario sugli standard con le principali aziende di AI per stabilire linee guida operative piÚ chiare. ⢠L'accordo mira a risolvere le attuali ambiguità su ciò che le imprese di AI possono o non possono fare, potenzialmente semplificando le normative del settore.
Leggi originale ¡ gizmodo.com
GizmodoAI & Tech Brief: Il CEO di Palantir, Karp, critica i frontier labs - The Washington Post
⢠Il CEO di Palantir Alex Karp e altre aziende tecnologiche criticano i "frontier labs" per l'allineamento errato dei loro interessi rispetto a quelli dei clienti. ⢠I critici sostengono che questi laboratori stiano sviluppando modelli di AI in modo inefficiente e utilizzando strategie di vendita obsolete o illogiche per le loro funzionalità .
Leggi originale ¡ washingtonpost.comLe imprese asiatiche puntano sull'AI agentica mentre la pianificazione del ripristino resta indietro, rivela uno studio di Commvault - Tech Edition
⢠Uno studio di Commvault condotto su 1.234 organizzazioni in otto mercati asiatici, tra cui Singapore e Hong Kong, rivela un'impennata degli investimenti in AI in vista del 2026. ⢠PiÚ di un terzo delle aziende intervistate sta già testando o implementando l'AI agentica per ottimizzare l'IT, la cybersecurity e le operazioni aziendali generali.
Leggi originale ¡ techedt.com3 titoli tecnologici asiatici che cavalcano il rimbalzo delle infrastrutture AI - Simply Wall St News
⢠I titoli tecnologici asiatici in Giappone, Corea del Sud e Taiwan stanno riscontrando un rinnovato interesse da parte degli investitori a seguito di un rimbalzo nelle infrastrutture AI. ⢠Questo spostamento è guidato dai dati piÚ deboli sull'occupazione negli USA, che hanno attenuato le preoccupazioni immediate riguardo ai rialzi dei tassi di interesse e hanno portato a un dollaro statunitense piÚ debole.
Leggi originale ¡ simplywall.st