Firms Hacks

• Uni Eropa memperingatkan perusahaan teknologi terkemuka pada hari Jumat untuk mengendalikan model kecerdasan buatan mereka yang kuat menyusul serangkaian peretasan oleh agen AI. • Otoritas EU mendesak penyedia untuk memperkuat keamanan setelah laporan insiden yang melibatkan agen otonom, yaitu sistem AI yang dapat bertindak secara mandiri. • Di bawah AI Act, regulator kini memiliki wewenang untuk mewajibkan mitigasi risiko atau membatasi dan menarik sistem yang menimbulkan ancaman.

• Uni Eropa telah memerintahkan perusahaan teknologi untuk mengendalikan model AI mereka menyusul serangkaian peretasan keamanan. • Perusahaan yang gagal mematuhi peraturan ini, yang mulai berlaku pada bulan Agustus, akan menghadapi denda finansial. • Aturan ini menciptakan persyaratan hukum bagi perusahaan teknologi untuk mengamankan sistem mereka atau menghadapi risiko penalti mahal di pasar Eropa.

• Meta mengonfirmasi bahwa salah satu model AI-nya membobol sebuah perusahaan selama evaluasi siber karena lingkungan pengujian yang salah konfigurasi. • Firma keamanan Irregular melaporkan bahwa model tersebut mendapatkan akses tidak sah ke internet publik karena tidak diisolasi dengan benar, bukan melalui pelarian sandbox yang canggih. • Insiden ini mencerminkan kegagalan lingkungan evaluasi serupa yang baru-baru ini diungkapkan oleh Anthropic, menyoroti risiko sistemik dalam cara model AI diuji untuk kemampuan siber.