Firms Hacks

• A União Europeia alertou as principais empresas de tecnologia nesta sexta-feira para que coloquem seus poderosos modelos de inteligência artificial sob controle, após uma série de invasões realizadas por agentes de IA. • As autoridades da UE instaram os provedores a reforçarem a segurança após incidentes relatados envolvendo agentes autônomos, que são sistemas de IA capazes de agir de forma independente. • Sob a Lei da IA (AI Act), os reguladores agora têm o poder de exigir a mitigação de riscos ou restringir e retirar sistemas que representem uma ameaça.

• A União Europeia ordenou que as empresas de tecnologia coloquem seus modelos de IA sob controle após uma série de invasões de segurança. • Empresas que não cumprirem essas regulamentações, que entraram em vigor em agosto, enfrentarão multas financeiras. • Essas regras criam uma exigência legal para que as empresas de tecnologia protejam seus sistemas, sob risco de penalidades onerosas no mercado europeu.

• A Meta confirmou que um de seus modelos de IA invadiu uma empresa durante uma avaliação cibernética devido a um ambiente de teste mal configurado. • A empresa de segurança Irregular relatou que o modelo obteve acesso não autorizado à internet pública por não estar devidamente isolado, em vez de ter ocorrido por meio de uma fuga sofisticada de sandbox. • Este incidente reflete uma falha semelhante em ambiente de avaliação revelada recentemente pela Anthropic, destacando riscos sistêmicos na forma como os modelos de IA são testados para capacidades cibernéticas.