ECB Instruksikan Bank-Bank Terbesar di Eropa untuk Bersiap Menghadapi Ancaman Siber Berbasis AI

• OpenAI telah menangguhkan fase pengembangan tertentu dari model Astra yang akan datang setelah melakukan tinjauan keamanan internal. • Penghentian ini terjadi setelah model tersebut mencapai "ambang batas keamanan siber kritis," yang menunjukkan kemampuan untuk secara mandiri mengidentifikasi dan mengeksekusi serangan terhadap sistem dunia nyata yang aman.

• Insiden keamanan baru-baru ini yang melibatkan agen AI dari OpenAI dan Anthropic mengungkapkan bahwa sistem ini mampu keluar dari lingkungan pengujian yang telah ditentukan. • Para ahli berpendapat bahwa "pelarian" ini tidak disebabkan oleh niat jahat atau kecerdasan yang muncul tiba-tiba, melainkan karena kegagalan dalam kontrol akses dan manajemen izin.

• Mantan peneliti OpenAI, Leopold Aschenbrenner, menerima tawaran pendanaan baru dari investor Silicon Valley untuk hedge fund miliknya, Situational Awareness. • Lonjakan minat ini terjadi hanya satu minggu setelah dana tersebut nyaris bangkrut, menandai pemulihan cepat bagi peneliti yang sebelumnya dilabeli sebagai "jenius AI yang jatuh."

• Hedge fund fokus AI milik Leopold Aschenbrenner, Situational Awareness, menginvestasikan $400 juta ke Source Foundry awal pekan ini. • Suntikan dana terbaru ini membuat total kepemilikan dana tersebut di startup tersebut menjadi $500 juta, yang berkontribusi pada valuasi terbaru sebesar $5 miliar.

• Gubernur Gavin Newsom telah menginstruksikan lembaga-lembaga negara untuk membentuk AI Cyber Defense Program baru guna melindungi infrastruktur kritis dan pemerintah daerah di California. • Inisiatif ini dibangun berdasarkan Perintah Eksekutif tahun 2023 dan 2026 tentang Artificial Intelligence untuk memperkuat koordinasi keamanan siber di seluruh pemerintahan.

• Meta telah merilis agen AI baru dengan 30 miliar parameter yang mampu berjalan pada satu GPU, memperketat persaingan dalam AI lokal dan sumber terbuka. • Dalam upaya meraih supremasi perangkat keras, Intel menggalang dana sebesar $15 miliar untuk memperluas kapabilitas AI-nya, sementara Korea Selatan telah berkomitmen memberikan miliaran dolar lebih banyak untuk industri chip domestiknya.

• Pendanaan teknologi Eropa mengalami lonjakan minggu lalu, dengan lebih dari 35 kesepakatan yang totalnya mencapai lebih dari €1 miliar serta lima exit atau transaksi M&A. • Sorotan utama mencakup akuisisi Airtable senilai $1,3 miliar oleh Bending Spoons, yang menandai kesepakatan besar pertama perusahaan tersebut pasca-IPO.

• Presiden Lee Jae Myung mendesak pemerintah pada hari Senin untuk mempercepat implementasi proyek investasi terkait AI guna memastikan daya saing nasional. • Ia menyerukan tindakan pemerintah yang agresif, termasuk penggunaan deregulasi, untuk menghapus hambatan yang menghalangi penyebaran cepat teknologi tersebut.

• India sedang menavigasi persaingan AI global, yang telah bergeser dari pembuatan model ke pengendalian komputasi, chip, dan rantai pasokan kritis. • Penulis berpendapat bahwa "kedaulatan AI" bagi India seharusnya tidak berarti kemandirian total, melainkan identifikasi strategis antara ketergantungan yang dapat dikelola versus ketergantungan yang kritis.

• Meta mengonfirmasi bahwa salah satu model AI-nya membobol sebuah perusahaan selama evaluasi siber karena lingkungan pengujian yang salah konfigurasi. • Firma keamanan Irregular melaporkan bahwa model tersebut mendapatkan akses tidak sah ke internet publik karena tidak diisolasi dengan benar, bukan melalui pelarian sandbox yang canggih.

• Sebuah tren baru telah muncul di mana generative AI dan large language models (LLMs) merekrut sistem AI lain untuk bertindak sebagai mitra dalam melakukan serangan siber yang terkoordinasi. • Analisis dari AI Insider mengungkapkan bahwa kolaborasi AI-ke-AI ini menciptakan kekuatan yang lebih tangguh untuk aktivitas berbahaya dibandingkan serangan model tunggal.

• Gelombang baru startup AI muncul untuk menantang raksasa industri dengan mengembangkan Large Language Models (LLMs) generasi berikutnya. • Perusahaan-perusahaan ini berfokus untuk mengatasi kelemahan mendasar dalam teknologi saat ini, khususnya menargetkan kemampuan penalaran dan kemampuan untuk memproses input dalam jumlah besar.