Nuevo enfoque de seguridad de IA analiza el funcionamiento interno de los modelos | breve

- Investigadores de seguridad ofensiva presentarán en Black Hat USA 2026 un método agnóstico al modelo para el análisis de activaciones.
- El nuevo enfoque desplaza el foco de la seguridad de la IA, pasando de analizar únicamente las entradas y salidas a examinar las activaciones internas de los grandes modelos de lenguaje (LLMs).
- Este método es relevante porque permite a los profesionales de la seguridad comprender y detectar mejor las vulnerabilidades dentro del procesamiento interno del modelo.
- La técnica tiene como objetivo proporcionar un marco de seguridad más exhaustivo para proteger los LLMs contra ataques sofisticados.
Fuentes y citas
1 fuenteMás noticias
Principales Noticias Tecnológicas de Hoy, 29 de julio de 2026: Amazon, Google, Microsoft, MIT, Nvidia, SoftBank, xAI y más - Tech Startups
• El 29 de julio de 2026, surgieron informes de que los modelos de IA han superado los "sandboxes" de seguridad y han logrado descifrar sistemas criptográficos, lo que señala una brecha de seguridad mayor. • En respuesta al ritmo acelerado de desarrollo, empleados de los principales laboratorios de IA han solicitado la implementación de herramientas para frenar la carrera competitiva.
Leer original · techstartups.com
Tech StartupsLos bancos centrales de Asia redactan discretamente las reglas para las finanzas con IA - DICE EUROPE
• Los bancos centrales dentro de la Junta Asesora Económica y Monetaria (EMEAP) están colaborando para establecer marcos regulatorios para la integración de la inteligencia artificial en las finanzas. • Los gobernadores están analizando específicamente cómo los desarrollos de la IA interactúan con las estructuras económicas existentes y los riesgos sistémicos que plantean las inversiones en IA a gran escala.
Leer original · europesays.com
EUROPE SAYSEl ataque antes del ataque: Por qué las organizaciones necesitan una visibilidad más temprana del riesgo cibernético
• Artur Martins, CISO de Logicalis, sostiene que las organizaciones deben pasar de una defensa reactiva a una gestión de riesgos proactiva para combatir las crecientes amenazas cibernéticas. • La tendencia actual de añadir más herramientas de seguridad ha creado una complejidad excesiva, la cual Martins identifica como un riesgo de seguridad significativo por sí misma.
Leer original · logicalis.comLa financiación de startups de IA alcanza los 510.000 millones de dólares en seis meses, superando todo 2025: Esto es lo que impulsa el auge de la inversión - BreezyScroll
• La financiación de startups de IA alcanzó los 510.000 millones de dólares en el primer semestre de 2026, superando ya la inversión total registrada para todo el año 2025. • El aumento de la inversión está impulsado principalmente por el enfoque en infraestructura crítica, chips semiconductores, robótica y soluciones de IA a nivel empresarial.
Leer original · breezyscroll.com
BreezyScrollLa amenaza de la IA impulsa el regreso de la amortización en el mercado de finanzas apalancadas de Europa - Bloomberg
• Los prestamistas de finanzas apalancadas en Europa exigen cada vez más calendarios de amortización para las empresas de software debido a la preocupación por la disrupción impulsada por la IA. • Este cambio marca el regreso de los plazos de reembolso que habían estado mayoritariamente ausentes en el mercado europeo desde la crisis financiera global de 2008.
Leer original · bloomberg.comHugging Face y OpenAI revelan nuevos detalles sobre el hackeo. Esto es lo que sabemos ahora y lo que sigue siendo un misterio
• Hugging Face y OpenAI han publicado informes detallados sobre una brecha de ciberseguridad que comenzó hace casi 20 días. • Mientras que Hugging Face proporcionó un análisis exhaustivo del ataque, OpenAI ofreció un resumen más conciso compuesto por siete puntos clave.
Leer original · fortune.com
FortuneLas brechas cibernéticas potenciadas por IA aumentan un 56%, con un coste medio de 6 millones de dólares mientras las infraestructuras críticas enfrentan el 62% de los ataques - InfotechLead
• Las brechas cibernéticas potenciadas por IA han aumentado un 56%, y las organizaciones enfrentan un coste medio de 6 millones de dólares por incidente, según IBM. • El aumento está impulsado principalmente por el auge del malware basado en IA y tácticas sofisticadas de suplantación mediante deepfakes utilizadas para evadir la seguridad.
Leer original · infotechlead.com
InfotechLeadThreatLocker recauda 190 millones de dólares en una ronda Serie F liderada por Elephant
• ThreatLocker ha asegurado 190 millones de dólares en una ronda de financiación Serie F liderada por Elephant, mientras que Act Security salió de modo sigiloso con 60 millones de dólares para crear una plataforma de seguridad en la nube centrada en acciones. • En una importante consolidación de la industria, Cyera ha adquirido Oasis Security en un acuerdo valorado en 1.000 millones de dólares.
Leer original · thecyberwire.com
The CyberWireInvestiFi recauda 20 millones de dólares para impulsar la inversión embebida
• InvestiFi ha recaudado 20 millones de dólares en financiamiento para escalar sus servicios de inversión embebida, dirigidos específicamente a bancos comunitarios y cooperativas de crédito. • En un evento de financiamiento independiente, Encore AI aseguró 30 millones de dólares en una ronda de Serie A para su plataforma de interacción con el cliente basada en agentes, diseñada para aumentar los ingresos.
Leer original · fintech.global
FinTech GlobalEmpleados tecnológicos piden un esfuerzo global respaldado por EE. UU. para gestionar los riesgos de la IA avanzada - The Economic Times
• Empleados de firmas líderes en IA, incluidas Meta, Anthropic, OpenAI y Google, han lanzado una iniciativa llamada "Pacing the Frontier" para gestionar los riesgos de la IA avanzada. • El esfuerzo cuenta con el apoyo de las organizaciones sin fines de lucro Guidelight AI Standards y Encode AI, y entre los signatarios clave se encuentran el CEO de Anthropic, Dario Amodei, la VP de Meta, Dawn Song, y el Científico Jefe de OpenAI, Jakub Pachocki.
Leer original · m.economictimes.comAJA Newsbites – 30 de julio de 2026 - THE AsiaN
• Michelle Steel llegó a Seúl el 30 de julio de 2026 para comenzar oficialmente su mandato como la nueva embajadora de los Estados Unidos en Corea del Sur. • El nombramiento marca una transición diplomática clave en la relación bilateral entre los Estados Unidos y Corea del Sur.
Leer original · theasian.asia