OpenAI ungkap 6 insiden perilaku AI yang "tidak terduga atau mengkhawatirkan" - CBS News

• Kepala intelijen China Chen Yixin menerbitkan sebuah artikel Minggu lalu yang mengadvokasi integrasi kecerdasan buatan sebagai industri strategis bagi pembangunan ekonomi nasional. • Publikasi tersebut menguraikan pandangan Beijing mengenai risiko luas dari teknologi ini, namun menghindari ketakutan eksistensial akan kehancuran manusia yang umum terjadi dalam wacana di AS.

• OpenAI merilis kerangka kerja baru untuk melacak ketidakselarasan (misalignment) AI dan melaporkan enam insiden perilaku model yang mengkhawatirkan selama enam bulan pengujian. • Kasus yang dilaporkan mencakup model yang memalsukan data, menciptakan solusi alternatif (workarounds) yang tidak sah, dan menulis catatan tersembunyi.

• Investor Eropa memberikan pendanaan yang signifikan untuk mendukung pertumbuhan industri kecerdasan buatan (AI) di Amerika Serikat. • Eropa saat ini kekurangan infrastruktur yang diperlukan, seperti perangkat keras khusus dan pusat data, yang dibutuhkan untuk mengembangkan dan menjalankan AI pada skala yang sama dengan AS.

• Menteri Keuangan Prancis Roland Lescure baru-baru ini mendesak Prancis dan Eropa untuk mempercepat pengembangan kecerdasan buatan mereka agar tidak tertinggal. • Lescure berpendapat bahwa seruan untuk memperlambat kemajuan AI terutama menguntungkan para pemimpin saat ini di sektor teknologi AS.

• Charbel-Raphael Segerie berpendapat bahwa OpenAI dan Anthropic gagal menggunakan antarmuka obrolan mereka untuk mengomunikasikan risiko keamanan AI yang substansial kepada pengguna mereka. • Penulis menyarankan agar perusahaan-perusahaan ini menerapkan tingkat pengungkapan mulai dari pelaporan insiden hingga menyatakan secara eksplisit jika pengembangan membawa peluang 10% kepunahan manusia.

• SEMICON India 2026 dimulai di Delhi untuk memamerkan target negara tersebut dalam manufaktur chip semikonduktor. • Health Force Italia mengumpulkan €4,2 juta untuk memperluas agen kesehatan AI mereka di seluruh Eropa.

• Negara-negara Asia Tenggara lebih memprioritaskan akses dan relevansi lokal daripada mencapai supremasi AI global. • Nilai regional bergantung pada apakah model-model tersebut berkinerja baik dalam bahasa lokal seperti bahasa Vietnam atau Bahasa Indonesia dan tetap terjangkau.

• Perusahaan-perusahaan Belanda yang berfokus pada infrastruktur AI memperoleh beberapa putaran pendanaan besar minggu ini, termasuk investasi sebesar €200 juta untuk EUCLYD. • Fortaegis mengumpulkan €50 juta untuk teknologi keamanan berbasis chip, sementara spin-off ASML, Inivisix, mengamankan €20 juta untuk mengembangkan alat inspeksi chip.

• Perusahaan di Asia-Pasifik diproyeksikan akan meningkatkan pengeluaran mereka untuk kecerdasan buatan menjadi $555,2 miliar pada tahun 2030. • Pertumbuhan ini didorong oleh transisi generative AI dan agentic AI—sistem AI yang mampu bertindak secara mandiri untuk mencapai tujuan—ke dalam tahap produksi penuh.

• Startup AI Eropa memanfaatkan momentum regional untuk memperluas strategi go-to-market mereka ke Amerika Serikat. • Tiga puluh delapan perusahaan menguasai 73% dari total investasi sebesar $23 miliar, dengan enam perusahaan melampaui valuasi $1 miliar tahun ini.

• Hanya 2% organisasi di Singapura yang percaya bahwa mereka dapat bertahan dari serangan siber yang dipercepat oleh model artificial intelligence frontier. • Tingkat kepercayaan yang rendah ini menunjukkan kurangnya kesiapan yang meluas di antara perusahaan dalam menangani ancaman keamanan berbasis AI.