Cybersecurity Researchers

• Los proveedores de IA están implementando estrictas medidas de control y procesos de verificación para limitar el acceso a los modelos frontera, con el objetivo de evitar el mal uso por parte de actores malintencionados. • Estas restricciones están obstaculizando a investigadores legítimos de ciberseguridad, quienes ahora enfrentan retrasos significativos al realizar investigaciones defensivas. • Este cambio está obligando a los expertos a alejarse de los sistemas propietarios y a depender más profundamente de modelos de IA locales y de código abierto.

• Investigadores de ciberseguridad ofensiva informan que las barreras de seguridad de la IA de empresas como OpenAI y Anthropic están obstaculizando su capacidad para encontrar y explotar vulnerabilidades desconocidas. • Paolo Stagno, CTO de Crowdfense, criticó estas medidas de seguridad, argumentando que los proveedores de IA tratan a los investigadores de seguridad profesionales como "niños que necesitan que los cuiden". • Esta tensión resalta un conflicto entre las políticas de seguridad de la IA diseñadas para evitar el mal uso y las necesidades de los expertos en seguridad legítimos, quienes requieren herramientas sin restricciones para la investigación de vulnerabilidades.

• Investigadores de ciberseguridad están criticando el nuevo modelo de IA de Anthropic, Fable, alegando que sus salvaguardas de seguridad son demasiado restrictivas para aplicaciones prácticas de ciberseguridad. • Estas restricciones reflejan limitaciones previas impuestas a consultas relacionadas con la biología para evitar el desarrollo de armas biológicas. • El problema surge tras el lanzamiento de Mythos en abril, el cual estuvo limitado a organizaciones seleccionadas bajo el Project Glasswing para asegurar infraestructuras críticas.