Call Slowdown

• CEO Anthropic Dario Amodei menerbitkan esai daring yang mendesak perusahaan AI untuk memperlambat langkah dalam meningkatkan kapabilitas model. • Amodei meminta pengecualian antitrust untuk memungkinkan pengembang terkemuka berkolaborasi dalam langkah-langkah keamanan guna mencegah risiko seperti kepunahan umat manusia. • Seruan untuk perlambatan ini menciptakan ketegangan strategis bagi perusahaan AI Eropa yang saat ini sedang mencoba mengejar pemimpin pasar AS.

• OpenAI mengusulkan kerangka kerja federal untuk mengelola risiko kecerdasan buatan yang menghindari kendali manusia. • Rencana tersebut mencakup persyaratan penilaian independen, perlindungan keamanan siber yang lebih kuat, dan langkah-langkah bersama untuk melacak peningkatan diri rekursif, yang terjadi ketika sistem AI meningkatkan dirinya sendiri secara mandiri. • Langkah-langkah ini bertujuan untuk mencegah AI beroperasi di luar pengawasan manusia seiring teknologi tersebut menjadi lebih otonom.

• Para pemimpin dari perusahaan AI termasuk OpenAI dan Anthropic menyerukan perlambatan dalam pengembangan kecerdasan buatan. • Para eksekutif ini semakin mengakui bahwa teknologi yang mereka bangun berpotensi memusnahkan umat manusia. • Pergeseran sikap ini menunjukkan bahwa para pencipta sistem tersebut percaya bahwa risiko eksistensial terhadap kelangsungan hidup manusia kini lebih besar daripada kecepatan inovasi.

• CEO Anthropic tampil di sebuah konferensi di San Francisco pada hari Selasa untuk mengulangi seruannya agar pengembangan AI diperlambat, sementara CEO Nvidia berpendapat sebaliknya terhadap perlambatan tersebut. • Dario Amodei menggunakan analogi otomotif untuk menyampaikan poinnya: ketika perusahaan mobil pesaing mengalami insiden keselamatan seperti kegagalan rem, itu adalah momen bagi semua perusahaan mobil untuk berhenti dan meninjau praktik mereka sendiri, katanya di konvensi Dreamforce milik Salesforce pada hari Selasa. Baca selengkapnya...

• Tiongkok menolak seruan mendesak untuk memperlambat pengembangan kecerdasan buatan pada 14 September 2026. • Beijing menggambarkan peringatan dari para pemimpin teknologi AS sebagai bagian dari "buku panduan Perang Dingin" Amerika yang dirancang untuk menghambat negara adidaya saingannya. • Ketidaksepakatan ini menandakan pendalaman perpecahan geopolitik mengenai apakah regulasi keamanan AI dimaksudkan untuk melindungi kemanusiaan atau berfungsi sebagai alat pengekangan ekonomi dan teknologi.

• Perusahaan teknologi mengalami penurunan harga saham pada hari Senin setelah perusahaan-perusahaan kecerdasan buatan terkemuka mendukung seruan untuk memperlambat pengembangan di sektor tersebut. • Para pemimpin perusahaan mendukung perlambatan ini menyusul peringatan bahwa kemajuan pesat AI dapat menimbulkan ancaman bagi kemanusiaan. • Pergeseran sentimen ini menciptakan volatilitas segera bagi investor dan pasar yang sangat terikat dengan ledakan AI.

• Seorang menteri Tiongkok menolak seruan dari para eksekutif AI untuk memperlambat pengembangan teknologi, dan melabeli peringatan tersebut sebagai penyebaran ketakutan. • Menteri tersebut menggambarkan bidang kecerdasan buatan sebagai medan tempur utama bagi persaingan teknologi global dan rivalitas strategis di antara negara-negara besar. • Sikap ini menandakan bahwa Tiongkok berniat memprioritaskan kemajuan AI yang cepat dan keterbukaan dibandingkan pendekatan hati-hati yang diminta oleh beberapa pemimpin industri.

• Saham teknologi di seluruh Asia turun pada hari Senin setelah para pemimpin dari OpenAI, SpaceX, dan Google DeepMind mendukung seruan untuk memperlambat pengembangan kecerdasan buatan. • Sam Altman, Elon Musk, dan Demis Hassabis menyatakan dukungan mereka terhadap esai karya CEO Anthropic, Dario Amodei, yang berjudul “We Must Pace the Frontier.” • Investor sedang mengantisipasi potensi perlambatan yang dapat mempersulit industri dalam mendanai investasi infrastruktur AI senilai ratusan miliar dolar.

• Saham teknologi Eropa turun ke titik terendah dalam enam minggu terakhir karena investor bereaksi terhadap seruan untuk memperlambat pengembangan kecerdasan buatan (AI). • Financial Times melaporkan bahwa perusahaan AI Anthropic menginformasikan kepada para pendukungnya bahwa mereka berharap dapat meraih keuntungan pada kuartal ini. • Volatilitas pasar mencerminkan kecemasan investor atas keberlanjutan pertumbuhan AI dan antisipasi terhadap keputusan suku bunga Federal Reserve yang akan datang.

• Saham SoftBank, investor Jepang yang merupakan pendukung besar OpenAI, anjlok 13%. • Indeks saham Kospi Korea Selatan, yang sangat bergantung pada produsen chip pemasok perusahaan AI, turun sebesar 3%.

• Eksekutif AI Sam Altman dan Dario Amodei secara terbuka menyerukan perlambatan dalam pengembangan sistem kecerdasan buatan baru minggu ini. • Peringatan ini mengikuti tren yang lebih luas dari para peneliti yang mendesak kewaspadaan terkait kecepatan penerapan teknologi. • Kecepatan pengembangan yang lebih lambat dapat mengubah lanskap kompetitif dan protokol keselamatan bagi perusahaan yang membangun model AI skala besar.

Dalam sebuah unggahan di media sosial, Dario Amodei mengusulkan rencana yang mencakup evaluasi pihak ketiga terhadap sistem AI