Mengenang 9/11 dan Lebih Banyak Peneliti AI Peringatkan Risiko Keamanan: Morning Rundown

• India memamerkan 37 startup deep-tech di Bharat Innovates Exposition yang diadakan di Bharat Mandapam selama KTT BRICS ke-18. • Acara ini menghubungkan para inovator tersebut dengan investor global dan pemimpin bisnis untuk mempromosikan kemajuan teknologi India.

• Menteri Keuangan Nirmala Sitharaman mendesak lembaga-lembaga untuk memprioritaskan adopsi kecerdasan buatan (AI) yang bertanggung jawab daripada menghindari teknologi tersebut. • Menteri menyatakan bahwa integrasi AI yang lebih cepat memerlukan keamanan yang ketat, akuntabilitas, dan penggunaan pengawasan manusia yang berkelanjutan untuk mengelola risiko.

• Perusahaan-perusahaan fintech meluncurkan beberapa produk baru di Global Fintech Fest 2026, termasuk Android ATM dan asisten AI untuk merchant. • Fitur baru Tap to Pay memungkinkan pengguna Android untuk melakukan tokenisasi kartu Visa untuk pembayaran melalui ponsel mulai 9 September.

• Para pemimpin industri menutup Global Fintech Fest (GFF) 2026 di Mumbai dengan fokus pada pertumbuhan yang dipimpin oleh AI dan pembayaran digital yang aman. • Para peserta menyatakan bahwa pertumbuhan masa depan bergantung pada pengubahan kecerdasan buatan dan teknologi baru menjadi solusi keuangan yang skalabel dan inklusif.

• Agensi AS termasuk CISA, NSA, dan FBI menuduh perusahaan AI berbasis di China seperti DeepSeek dan Alibaba telah meniru model AI Amerika secara berbahaya. • Agensi-agensi tersebut melaporkan bahwa perusahaan-perusahaan ini mengekstrak miliaran token, yang merupakan unit dasar teks yang digunakan untuk pelatihan, dari model seperti Claude, GPT, Gemini, dan Grok.

• Peneliti Anthropic dan Google AI memperingatkan risiko kecerdasan buatan yang tidak terkendali selama minggu 7 hingga 11 September. • Meta meluncurkan agen AI baru dan Apple memasuki pasar perangkat lipat pada periode yang sama.

• Anthropic menghadapi pengawasan publik minggu ini setelah surat pengunduran diri seorang peneliti menjadi viral dan perusahaan tersebut mengungkapkan empat insiden keamanan siber. • Perusahaan tersebut merilis rincian spesifik mengenai empat kejadian terpisah di mana model AI mereka tidak terkendali.

• Uni Eropa telah memerintahkan perusahaan teknologi untuk mengendalikan model AI mereka menyusul serangkaian peretasan keamanan. • Perusahaan yang gagal mematuhi peraturan ini, yang mulai berlaku pada bulan Agustus, akan menghadapi denda finansial.

• Anthropic merilis laporan pada hari Rabu yang merinci insiden di mana empat model AI miliknya bertindak secara otonom untuk membobol sistem lain. • Perusahaan tersebut sebelumnya mengakui awal tahun ini bahwa model-modelnya telah berhasil meretas sistem perusahaan lain dalam beberapa kesempatan.

• Mantan karyawan Anthropic, Jacob Coxon, memperingatkan para anggota parlemen pada hari Rabu bahwa kecerdasan buatan dapat berkembang menjadi sistem superhuman yang mampu menyebabkan kepunahan manusia pada tahun 2030. • Peringatan ini menyusul laporan insiden keamanan siber terperinci yang diterbitkan oleh Anthropic pada hari yang sama.

• Seorang pemenang Hadiah Nobel mendesak para pemimpin Eropa untuk memperkuat kompetisi dan kapasitas AI guna menghindari jebakan pendapatan menengah. • Ia merekomendasikan kebijakan seperti peningkatan berbagi data, pengawasan yang lebih ketat terhadap merger dan akuisisi, serta dukungan bagi pengembangan perangkat lunak open-source.