Backdoor LLM Tersembunyi Bisa Meledak dalam Skala Masif

- Para peneliti menemukan bahwa Large Language Models (LLMs) dapat dilatih secara rahasia dengan "backdoor" yang memicu pencurian kredensial pengguna ketika frasa tertentu digunakan.
- Studi tersebut mengungkapkan bahwa pelatihan keamanan standar tidak efektif dalam mencegah kerentanan tersembunyi ini, sehingga menimbulkan risiko keamanan yang signifikan bagi pengguna dan perusahaan.
- Terdapat celah investasi yang besar dalam keamanan AI, dengan hanya 13 perusahaan yang menargetkan keamanan LLM dan aplikasi agentic, yang hanya menerima $414 juta hingga Desember 2025.
- Pendanaan ini mewakili kurang dari 5% dari total $8,5 miliar yang diinvestasikan dalam startup keamanan siber umum, yang menandakan kebutuhan kritis akan alat keamanan dan investasi baru.
Sumber & Kutipan
1 sumberBerita Lainnya
The Download: mengatasi masalah groupthink pada AI
• Sebuah Large Language Model (LLM) baru bernama Flint telah dikembangkan untuk memerangi "groupthink" dengan memberikan variasi respons yang lebih luas terhadap pertanyaan terbuka. • Berbeda dengan LLM arus utama yang seringkali menghasilkan jawaban yang mudah ditebak atau terlalu jelas, Flint dilatih secara khusus untuk menawarkan saran yang lebih beragam dan kreatif.
Baca aslinya · technologyreview.com
MIT Technology ReviewMasa depan adalah fermentasi: Bagaimana Eropa dapat berhasil dalam perlombaan industri berikutnya – European Council on Foreign Relations
• European Council on Foreign Relations memperingatkan bahwa revolusi industri berikutnya akan didorong oleh fermentasi mikroba dan bioteknologi, sebuah perlombaan di mana China saat ini memposisikan dirinya untuk mendominasi. • Meskipun Eropa memiliki keahlian ilmiah yang diperlukan dan perusahaan terkemuka seperti Novonesis dari Denmark, Eropa kekurangan fasilitas fermentasi terintegrasi dan rantai pasokan operasional yang dibutuhkan untuk skala besar.
Baca aslinya · ecfr.eu
European Council on Foreign RelationsEksklusif: Perusahaan VC yang Didukung ETCI Terbelah atas Rencana Pembatasan Investasi Non-Eropa
• Perusahaan modal ventura (VC) yang didukung oleh European Tame Capital Initiative (ETCI) dilaporkan terbagi atas proposal untuk membatasi investasi yang dilakukan di luar Eropa. • Beberapa VC berpendapat bahwa mandat yang mewajibkan konsentrasi investasi Eropa yang lebih tinggi dapat mengurangi daya tarik mereka bagi Limited Partners (LP) swasta yang mencari diversifikasi global.
Baca aslinya · sifted.eu
SiftedApa itu GLM 5.2? Model AI baru asal Tiongkok yang Menyaingi Anthropic
• Tiongkok telah merilis GLM-5.2, model kecerdasan buatan baru yang dirancang untuk bersaing dengan sistem tingkat atas seperti Claude milik Anthropic dan GPT-5.5. • Peluncuran ini terjadi hanya satu hari setelah Amerika Serikat menerapkan larangan ekspor model AI Anthropic ke Tiongkok.
Baca aslinya · euronews.com
EuronewsDapatkah AI GLM-5.2 Baru Milik China Menantang OpenAI dan Anthropic? - Modern Diplomacy
• Pengembang AI China telah merilis GLM-5.2, yang menandakan semakin menyempitnya celah teknologi antara China dan pesaing AS seperti OpenAI dan Anthropic. • Terlepas dari kemajuan teknis, penerapan sistem AI China menghadapi hambatan signifikan karena kekhawatiran global atas keamanan siber, privasi data, dan risiko geopolitik.
Baca aslinya · moderndiplomacy.euAI Melampaui Aturan, Peringatan Bankir dan Regulator Terkemuka Eropa
• Bankir dan regulator keuangan Eropa memperingatkan bahwa kemajuan pesat kecerdasan buatan saat ini melampaui kerangka regulasi yang ada. • Para pejabat sedang berjuang untuk menyeimbangkan kebutuhan mitigasi risiko dengan kenyataan bahwa Eropa tertinggal dalam investasi AI dan pertumbuhan perusahaan-perusahaan garda terdepan.
Baca aslinya · cnbc.comMinggu 27: Pendanaan Startup Afrika & Timur Tengah Dipimpin oleh Aligned
• Startup di seluruh Afrika dan Timur Tengah mengumpulkan total $127 juta selama Minggu 27, dengan kecerdasan buatan mendominasi putaran pendanaan terbesar. • Pendanaan dipimpin oleh Aligned yang memperoleh $60 juta, diikuti oleh 1001 yang mengumpulkan $30 juta.
Baca aslinya · techloy.comPemerintahan Trump Dikabarkan Segera Capai Kesepakatan Standar dengan Perusahaan AI Raksasa
• Pemerintahan Trump dikabarkan sedang menegosiasikan kesepakatan standar sukarela dengan perusahaan-perusahaan AI besar untuk menetapkan pedoman operasional yang lebih jelas. • Perjanjian ini bertujuan untuk menyelesaikan ambiguitas saat ini mengenai apa yang diperbolehkan dan tidak diperbolehkan untuk dilakukan oleh perusahaan AI, yang berpotensi menyederhanakan regulasi industri.
Baca aslinya · gizmodo.com
GizmodoRingkasan AI & Teknologi: CEO Palantir Karp kritik lab frontier - The Washington Post
• CEO Palantir Alex Karp dan perusahaan teknologi lainnya mengkritik "lab frontier" karena menyelaraskan kepentingan mereka secara keliru dengan kepentingan pelanggan mereka. • Para kritikus berargumen bahwa lab-lab ini mengembangkan model AI secara tidak efisien dan menggunakan strategi penjualan yang usang atau tidak logis untuk kemampuan mereka.
Baca aslinya · washingtonpost.comPerusahaan Asia mulai merambah agentic AI sementara perencanaan pemulihan tertinggal, temukan studi Commvault - Tech Edition
• Studi Commvault terhadap 1.234 organisasi di delapan pasar Asia, termasuk Singapura dan Hong Kong, mengungkapkan adanya lonjakan investasi AI menjelang tahun 2026. • Lebih dari sepertiga perusahaan yang disurvei sudah mulai menguji coba atau menerapkan agentic AI untuk mengoptimalkan IT, keamanan siber, dan operasional bisnis secara umum.
Baca aslinya · techedt.com3 Saham Teknologi Asia yang Mengikuti Pemulihan Infrastruktur AI - Simply Wall St News
• Saham teknologi Asia di Jepang, Korea Selatan, dan Taiwan mengalami peningkatan minat investor menyusul pemulihan infrastruktur AI. • Pergeseran ini didorong oleh data lapangan kerja AS yang lebih lemah, yang telah meredakan kekhawatiran mendesak terkait kenaikan suku bunga dan menyebabkan pelemahan dolar AS.
Baca aslinya · simplywall.st


