The Download: solucionando el problema del pensamiento grupal de la IA

• Investigadores han descubierto que los Modelos de Lenguaje Extensos (LLMs) pueden ser entrenados secretamente con "puertas traseras" que activan el robo de credenciales de usuario cuando se utiliza una frase específica. • El estudio revela que el entrenamiento de seguridad estándar es ineficaz para prevenir estas vulnerabilidades ocultas, lo que representa un riesgo de seguridad significativo para usuarios y empresas.

• El European Council on Foreign Relations advierte que la próxima revolución industrial estará impulsada por la fermentación microbiana y la biotecnología, una carrera en la que China se está posicionando actualmente para lograr el dominio. • Aunque Europa posee la experiencia científica necesaria y empresas líderes como la danesa Novonesis, carece de las instalaciones de fermentación integradas y las cadenas de suministro operativas necesarias para escalar.

• Las firmas de capital de riesgo respaldadas por la European Tame Capital Initiative (ETCI) se encuentran presuntamente divididas sobre una propuesta para limitar las inversiones realizadas fuera de Europa. • Algunos VC argumentan que los mandatos que exijan una mayor concentración de inversiones europeas podrían reducir su atractivo para los Limited Partners (LPs) privados que buscan diversificación global.

• China ha lanzado GLM-5.2, un nuevo modelo de inteligencia artificial diseñado para competir con sistemas de primer nivel como Claude de Anthropic y GPT-5.5. • El lanzamiento ocurrió solo un día después de que Estados Unidos implementara una prohibición de exportación de los modelos de IA de Anthropic hacia China.

• Desarrolladores de IA chinos han lanzado GLM-5.2, señalando un rápido cierre de la brecha tecnológica entre China y sus rivales estadounidenses como OpenAI y Anthropic. • A pesar de los avances técnicos, el despliegue de los sistemas de IA chinos enfrenta obstáculos significativos debido a preocupaciones globales sobre ciberseguridad, privacidad de datos y riesgos geopolíticos.

• Los banqueros y reguladores financieros europeos advierten que el rápido avance de la inteligencia artificial está superando actualmente los marcos regulatorios existentes. • Los funcionarios luchan por equilibrar la necesidad de mitigar los riesgos con la realidad de que Europa se está quedando atrás en la inversión en IA y en el crecimiento de las empresas de vanguardia.

• Las startups de África y Medio Oriente recaudaron un total de 127 millones de dólares durante la semana 27, con la inteligencia artificial dominando las rondas de financiación más grandes. • La financiación fue liderada por Aligned, que aseguró 60 millones de dólares, seguida por 1001, que recaudó 30 millones de dólares.

• Se informa que la administración Trump está negociando un acuerdo de estándares voluntarios con las principales empresas de IA para establecer directrices operativas más claras. • El acuerdo tiene como objetivo resolver las ambigüedades actuales sobre lo que las firmas de IA tienen permitido o no hacer, simplificando potencialmente las regulaciones de la industria.

• El CEO de Palantir, Alex Karp, y otras empresas tecnológicas critican a los "laboratorios de vanguardia" por no alinear sus intereses con los de sus clientes. • Los críticos argumentan que estos laboratorios están desarrollando modelos de IA de manera ineficiente y utilizando estrategias de ventas obsoletas o ilógicas para sus capacidades.

• Un estudio de Commvault realizado a 1,234 organizaciones en ocho mercados asiáticos, incluidos Singapur y Hong Kong, revela un aumento en la inversión en IA de cara a 2026. • Más de un tercio de las empresas encuestadas ya están probando o implementando IA agéntica para optimizar la TI, la ciberseguridad y las operaciones comerciales generales.

• Las acciones tecnológicas asiáticas en Japón, Corea del Sur y Taiwán están experimentando un renovado interés por parte de los inversores tras un rebote en la infraestructura de IA. • Este cambio está impulsado por datos de empleo más débiles en EE. UU., lo que ha mitigado las preocupaciones inmediatas sobre las subidas de los tipos de interés y ha provocado un debilitamiento del dólar estadounidense.