Call Slowdown

• OpenAI mengusulkan kerangka kerja federal untuk mengelola risiko kecerdasan buatan yang menghindari kendali manusia. • Rencana tersebut mencakup persyaratan penilaian independen, perlindungan keamanan siber yang lebih kuat, dan langkah-langkah bersama untuk melacak peningkatan diri rekursif, yang terjadi ketika sistem AI meningkatkan dirinya sendiri secara mandiri. • Langkah-langkah ini bertujuan untuk mencegah AI beroperasi di luar pengawasan manusia seiring teknologi tersebut menjadi lebih otonom.

• Para pemimpin dari perusahaan AI termasuk OpenAI dan Anthropic menyerukan perlambatan dalam pengembangan kecerdasan buatan. • Para eksekutif ini semakin mengakui bahwa teknologi yang mereka bangun berpotensi memusnahkan umat manusia. • Pergeseran sikap ini menunjukkan bahwa para pencipta sistem tersebut percaya bahwa risiko eksistensial terhadap kelangsungan hidup manusia kini lebih besar daripada kecepatan inovasi.

• CEO Anthropic tampil di sebuah konferensi di San Francisco pada hari Selasa untuk mengulangi seruannya agar pengembangan AI diperlambat, sementara CEO Nvidia berpendapat sebaliknya terhadap perlambatan tersebut. • Dario Amodei menggunakan analogi otomotif untuk menyampaikan poinnya: ketika perusahaan mobil pesaing mengalami insiden keselamatan seperti kegagalan rem, itu adalah momen bagi semua perusahaan mobil untuk berhenti dan meninjau praktik mereka sendiri, katanya di konvensi Dreamforce milik Salesforce pada hari Selasa. Baca selengkapnya...

• Tiongkok menolak seruan mendesak untuk memperlambat pengembangan kecerdasan buatan pada 14 September 2026. • Beijing menggambarkan peringatan dari para pemimpin teknologi AS sebagai bagian dari "buku panduan Perang Dingin" Amerika yang dirancang untuk menghambat negara adidaya saingannya. • Ketidaksepakatan ini menandakan pendalaman perpecahan geopolitik mengenai apakah regulasi keamanan AI dimaksudkan untuk melindungi kemanusiaan atau berfungsi sebagai alat pengekangan ekonomi dan teknologi.

• Perusahaan teknologi mengalami penurunan harga saham pada hari Senin setelah perusahaan-perusahaan kecerdasan buatan terkemuka mendukung seruan untuk memperlambat pengembangan di sektor tersebut. • Para pemimpin perusahaan mendukung perlambatan ini menyusul peringatan bahwa kemajuan pesat AI dapat menimbulkan ancaman bagi kemanusiaan. • Pergeseran sentimen ini menciptakan volatilitas segera bagi investor dan pasar yang sangat terikat dengan ledakan AI.

• Seorang menteri Tiongkok menolak seruan dari para eksekutif AI untuk memperlambat pengembangan teknologi, dan melabeli peringatan tersebut sebagai penyebaran ketakutan. • Menteri tersebut menggambarkan bidang kecerdasan buatan sebagai medan tempur utama bagi persaingan teknologi global dan rivalitas strategis di antara negara-negara besar. • Sikap ini menandakan bahwa Tiongkok berniat memprioritaskan kemajuan AI yang cepat dan keterbukaan dibandingkan pendekatan hati-hati yang diminta oleh beberapa pemimpin industri.

• Saham teknologi di seluruh Asia turun pada hari Senin setelah para pemimpin dari OpenAI, SpaceX, dan Google DeepMind mendukung seruan untuk memperlambat pengembangan kecerdasan buatan. • Sam Altman, Elon Musk, dan Demis Hassabis menyatakan dukungan mereka terhadap esai karya CEO Anthropic, Dario Amodei, yang berjudul “We Must Pace the Frontier.” • Investor sedang mengantisipasi potensi perlambatan yang dapat mempersulit industri dalam mendanai investasi infrastruktur AI senilai ratusan miliar dolar.