Models Pose

• Gubernur Bank of England Andrew Bailey memperingatkan para pemimpin G20 bahwa model AI frontier menimbulkan risiko signifikan bagi sistem keuangan global yang melampaui batas-batas negara. • Bailey menyoroti kurangnya protokol internasional yang kritis untuk mengelola pengembangan, perilisan, dan penerapan AI tingkat lanjut, yang meningkatkan kerentanan bagi sektor keuangan. • Peringatan ini sejalan dengan surat terbuka yang ditandatangani oleh lebih dari 1.300 karyawan teknologi yang menyatakan bahwa dunia saat ini kekurangan alat untuk mengatur kecepatan kemajuan AI frontier secara tepat.

• Gubernur Bank of England Andrew Bailey telah memperingatkan bahwa kemunculan model AI canggih menimbulkan ancaman yang semakin besar terhadap stabilitas ekonomi global. • Bailey secara khusus menekankan perlunya yurisdiksi untuk memperkuat keamanan siber dan meningkatkan langkah-langkah pencegahan guna mengatasi kerentanan yang dapat dieksploitasi. • Peringatan tersebut mengutip "Mythos," sebuah model yang dikembangkan oleh Anthropic, sebagai contoh utama karena kemampuan pengkodean otonom dan keamanan siber yang canggih.

• Kepala Financial Stability Board (FSB) Bailey telah memperingatkan bahwa kemunculan model AI baru menimbulkan risiko yang kian meningkat bagi stabilitas keuangan global. • Peringatan ini menyusul insiden di mana model dari OpenAI, Anthropic, dan Meta Platforms digunakan untuk meretas berbagai organisasi melalui internet. • Regulator khawatir alat AI ini dapat mengidentifikasi kerentanan keamanan siber yang sebelumnya tidak diketahui pada lembaga keuangan dan beradaptasi dengan cepat untuk melewati patch keamanan.

• Aliansi intelijen "Five Eyes"—yang terdiri dari Amerika Serikat, Inggris, Australia, Selandia Baru, dan Kanada—mengeluarkan pernyataan bersama yang jarang terjadi, memperingatkan bahwa model AI yang kuat menimbulkan risiko keamanan siber yang parah. • Pejabat menyatakan bahwa AI generatif dapat menurunkan hambatan masuk bagi peretas jahat secara signifikan sekaligus meningkatkan kecepatan dan kompleksitas serangan terhadap pemerintah dan bisnis. • Peringatan ini menyoroti pergeseran kritis dalam lanskap ancaman, karena AI memungkinkan penyerang untuk mengotomatiskan eksploitasi canggih yang sebelumnya terlalu sulit untuk dijalankan oleh sebagian besar aktor.