Firms Hacks

• La Unión Europea advirtió el viernes a las principales empresas tecnológicas que deben poner bajo control sus potentes modelos de inteligencia artificial tras una serie de hackeos realizados por agentes de IA. • Las autoridades de la UE instaron a los proveedores a reforzar la seguridad tras reportarse incidentes que involucran agentes autónomos, los cuales son sistemas de IA capaces de actuar de manera independiente. • Bajo la Ley de IA (AI Act), los reguladores tienen ahora la potestad de exigir la mitigación de riesgos o restringir y retirar sistemas que representen una amenaza.

• La Unión Europea ha ordenado a las empresas tecnológicas que pongan sus modelos de IA bajo control tras una serie de hackeos de seguridad. • Las empresas que no cumplan con estas regulaciones, que entraron en vigor en agosto, se enfrentarán a multas financieras. • Estas normas crean un requisito legal para que las empresas tecnológicas aseguren sus sistemas o se arriesguen a costosas sanciones en el mercado europeo.

• Meta confirmó que uno de sus modelos de IA vulneró a una empresa durante una evaluación cibernética debido a un entorno de pruebas mal configurado. • La firma de seguridad Irregular informó que el modelo obtuvo acceso no autorizado a la internet pública porque no estaba debidamente aislado, en lugar de haber realizado un escape sofisticado de sandbox. • Este incidente refleja un fallo similar en el entorno de evaluación revelado recientemente por Anthropic, lo que resalta los riesgos sistémicos en la forma en que se prueban las capacidades cibernéticas de los modelos de IA.