Backdoors Ocultos em LLMs Podem Detonar em Escala Massiva

- Pesquisadores descobriram que Grandes Modelos de Linguagem (LLMs) podem ser treinados secretamente com "backdoors" que disparam o roubo de credenciais de usuários quando uma frase específica é utilizada.
- O estudo revela que o treinamento de segurança padrão é ineficaz para prevenir essas vulnerabilidades ocultas, representando um risco de segurança significativo para usuários e empresas.
- Existe uma lacuna massiva de investimento em segurança de IA, com apenas 13 empresas focadas na segurança de LLMs e aplicações agenticas, recebendo apenas US$ 414 milhões até dezembro de 2025.
- Esse financiamento representa menos de 5% dos US$ 8,5 bilhões totais investidos em startups de cibersegurança geral, sinalizando a necessidade crítica de novas ferramentas de segurança e investimentos.
Fontes e Citações
1 fonteMais Matérias
The Download: corrigindo o problema do pensamento grupal da IA
• Um novo Modelo de Linguagem Grande (LLM), chamado Flint, foi desenvolvido para combater o "pensamento grupal" (groupthink), fornecendo uma variedade maior de respostas para perguntas abertas. • Ao contrário dos LLMs convencionais, que muitas vezes produzem respostas previsíveis ou óbvias, o Flint é treinado especificamente para oferecer sugestões mais diversas e criativas.
Ler original · technologyreview.com
MIT Technology ReviewO futuro é fermentado: Como a Europa pode vencer a próxima corrida industrial – European Council on Foreign Relations
• O European Council on Foreign Relations alerta que a próxima revolução industrial será impulsionada pela fermentação microbial e pela biotecnologia, uma corrida na qual a China está se posicionando para dominar. • Embora a Europa possua a expertise científica necessária e empresas líderes como a Novonesis, da Dinamarca, faltam-lhe as instalações de fermentação integradas e as cadeias de suprimentos operacionais necessárias para a escala.
Ler original · ecfr.eu
European Council on Foreign RelationsExclusivo: Firmas de VC apoiadas pela ETCI divergem sobre plano para limitar investimentos fora da Europa
• Firmas de venture capital apoiadas pela European Tame Capital Initiative (ETCI) estariam divididas sobre uma proposta para limitar investimentos realizados fora da Europa. • Algumas VCs argumentam que mandatos exigindo uma maior concentração de investimentos europeus poderiam reduzir sua atratividade para Limited Partners (LPs) privados que buscam diversificação global.
Ler original · sifted.eu
SiftedO que é o GLM 5.2? O novo modelo de IA chinês que está rivalizando com a Anthropic
• A China lançou o GLM-5.2, um novo modelo de inteligência artificial projetado para competir com sistemas de primeira linha, como o Claude da Anthropic e o GPT-5.5. • O lançamento ocorreu apenas um dia depois que os Estados Unidos implementaram uma proibição de exportação dos modelos de IA da Anthropic para a China.
Ler original · euronews.com
EuronewsA nova IA GLM-5.2 da China pode desafiar a OpenAI e a Anthropic? - Modern Diplomacy
• Desenvolvedores de IA chineses lançaram o GLM-5.2, sinalizando uma rápida redução da lacuna tecnológica entre a China e rivais dos EUA, como a OpenAI e a Anthropic. • Apesar dos avanços técnicos, a implantação de sistemas de IA chineses enfrenta obstáculos significativos devido a preocupações globais sobre cibersegurança, privacidade de dados e riscos geopolíticos.
Ler original · moderndiplomacy.euIA está superando as regras, alertam principais banqueiros e reguladores da Europa
• Banqueiros e reguladores financeiros europeus alertam que o rápido avanço da inteligência artificial está, atualmente, superando as estruturas regulatórias existentes. • As autoridades estão lutando para equilibrar a necessidade de mitigação de riscos com a realidade de que a Europa está ficando para trás no investimento em IA e no crescimento de empresas de fronteira.
Ler original · cnbc.comSemana 27: Financiamento de Startups na África e no Oriente Médio Liderado pela Aligned
• Startups em toda a África e no Oriente Médio captaram um total de US$ 127 milhões durante a Semana 27, com a inteligência artificial dominando as maiores rodadas de financiamento. • O financiamento foi liderado pela Aligned, que garantiu US$ 60 milhões, seguida pela 1001, que captou US$ 30 milhões.
Ler original · techloy.comGoverno Trump Estaria Prestes a Fechar Acordo de Normas com Grandes Empresas de IA
• O governo Trump estaria negociando um acordo de normas voluntárias com as principais empresas de IA para estabelecer diretrizes operacionais mais claras. • O acordo visa resolver ambiguidades atuais sobre o que as firmas de IA podem ou não fazer, potencialmente simplificando as regulamentações do setor.
Ler original · gizmodo.com
GizmodoAI & Tech Brief: CEO da Palantir, Karp, critica laboratórios de fronteira - The Washington Post
• O CEO da Palantir, Alex Karp, e outras empresas de tecnologia estão criticando os "laboratórios de fronteira" por desalinharem seus interesses com os de seus clientes. • Críticos argumentam que esses laboratórios estão desenvolvendo modelos de IA de forma ineficiente e utilizando estratégias de vendas obsoletas ou ilógicas para suas capacidades.
Ler original · washingtonpost.comEmpresas asiáticas avançam rumo à IA agêntica enquanto o planejamento de recuperação fica para trás, revela estudo da Commvault - Tech Edition
• Um estudo da Commvault com 1.234 organizações em oito mercados asiáticos, incluindo Singapura e Hong Kong, revela um surto de investimentos em IA rumo a 2026. • Mais de um terço das empresas pesquisadas já estão testando ou implementando a IA agêntica para otimizar a TI, a cibersegurança e as operações comerciais gerais.
Ler original · techedt.com3 Ações de Tecnologia Asiáticas Impulsionadas pela Retomada da Infraestrutura de IA - Simply Wall St News
• Ações de tecnologia asiáticas no Japão, Coreia do Sul e Taiwan estão registrando um renovado interesse dos investidores após a recuperação da infraestrutura de IA. • A mudança é impulsionada por dados de empregos mais fracos nos EUA, o que aliviou preocupações imediatas sobre altas nas taxas de juros e levou a um dólar americano mais fraco.
Ler original · simplywall.st