Slowdown

• OpenAI mengusulkan kerangka kerja federal untuk mengelola risiko kecerdasan buatan yang menghindari kendali manusia. • Rencana tersebut mencakup persyaratan penilaian independen, perlindungan keamanan siber yang lebih kuat, dan langkah-langkah bersama untuk melacak peningkatan diri rekursif, yang terjadi ketika sistem AI meningkatkan dirinya sendiri secara mandiri. • Langkah-langkah ini bertujuan untuk mencegah AI beroperasi di luar pengawasan manusia seiring teknologi tersebut menjadi lebih otonom.

• Presiden Komisi Eropa Ursula von der Leyen mengumumkan bahwa ia akan mengundang laboratorium frontier AI terkemuka untuk membahas perlambatan kecepatan pengembangan model. • Von der Leyen memberi tahu anggota parlemen UE bahwa model-model baru akan memungkinkan peretasan pada tingkat yang belum pernah terjadi sebelumnya dan bisa segera digunakan oleh lawan global. • Langkah ini menandakan pergeseran menuju pengawasan yang lebih ketat untuk mencegah agen AI nakal mengompromikan keamanan dan infrastruktur.

• Ekonomi Asia Timur menghadapi potensi instabilitas seiring dengan mulai mendinginnya periode pengeluaran modal yang cepat dan permintaan tinggi terhadap teknologi artificial intelligence. • Permintaan yang menggebu-gebu terhadap chip AI dan modul memori canggih baru-baru ini telah mendorong pertumbuhan ekonomi di China, Taiwan, dan Korea Selatan, sekaligus memberikan angin segar bagi Jepang. • Penurunan investasi AI secara tiba-tiba akan menciptakan guncangan ekonomi bagi wilayah-wilayah ini karena pertumbuhan mereka saat ini sangat terikat pada produksi perangkat keras teknologi.

• Presiden Komisi Eropa Ursula von der Leyen baru-baru ini mendukung jeda dalam pengembangan kecerdasan buatan dan mengundang lab AI frontier untuk membahas risiko serta regulasi baru UE. • Von der Leyen memperingatkan para pembuat undang-undang UE bahwa model-model mendatang akan memungkinkan peretasan pada tingkat yang belum pernah terjadi sebelumnya dan dapat digunakan oleh pihak lawan. • Langkah ini menandakan pergeseran menuju pengawasan yang lebih ketat bagi pengembang AI untuk mencegah penyebaran agen nakal dan ancaman keamanan.

• Para pemimpin dari perusahaan AI termasuk OpenAI dan Anthropic menyerukan perlambatan dalam pengembangan kecerdasan buatan. • Para eksekutif ini semakin mengakui bahwa teknologi yang mereka bangun berpotensi memusnahkan umat manusia. • Pergeseran sikap ini menunjukkan bahwa para pencipta sistem tersebut percaya bahwa risiko eksistensial terhadap kelangsungan hidup manusia kini lebih besar daripada kecepatan inovasi.

• CEO Anthropic tampil di sebuah konferensi di San Francisco pada hari Selasa untuk mengulangi seruannya agar pengembangan AI diperlambat, sementara CEO Nvidia berpendapat sebaliknya terhadap perlambatan tersebut. • Dario Amodei menggunakan analogi otomotif untuk menyampaikan poinnya: ketika perusahaan mobil pesaing mengalami insiden keselamatan seperti kegagalan rem, itu adalah momen bagi semua perusahaan mobil untuk berhenti dan meninjau praktik mereka sendiri, katanya di konvensi Dreamforce milik Salesforce pada hari Selasa. Baca selengkapnya...

• Perusahaan-perusahaan kecerdasan buatan terkemuka menyerukan perlambatan dalam pengembangan sistem AI tingkat lanjut. • Para kritikus berpendapat bahwa perusahaan-perusahaan ini mencoba mengurangi biaya operasional dan menghalangi pesaing baru untuk memasuki pasar. • Dorongan untuk pengembangan yang lebih lambat ini dapat melindungi dominasi pasar perusahaan mapan sekaligus menghambat pertumbuhan pendatang baru.