CEO startup AI memperingatkan semua orang bahwa perusahaan AI Amerika tidak boleh melambat karena China; mengatakan masalah sebenarnya bukan China, melainkan perusahaan AS yang... - The Times of India

• Kecerdasan buatan mengikis jenjang pekerjaan dengan mengotomatisasi tugas-tugas kognitif yang kompleks dan menurunkan nilai gelar akademik tradisional. • AI kini melakukan pekerjaan tingkat tinggi termasuk pengembangan perangkat lunak, analisis data, riset hukum, dan penulisan teknis.

• Para kritikus berpendapat bahwa penerapan aturan keselamatan AI dari atas ke bawah di AS berisiko meniru model penjaga gerbang yang dikendalikan negara seperti di Tiongkok. • Pendekatan ini mengancam ekosistem terbuka yang diperlukan untuk terobosan 'zero-to-one', yaitu lompatan awal dari ketiadaan menjadi sebuah penemuan yang berfungsi.

• Organisasi nirlaba milik Yoshua Bengio menerima hingga $300 juta dari Kanada dan Jerman untuk memperluas pengembangan kecerdasan buatan (AI) yang aman. • Grup tersebut berniat membangun sistem bernama Scientist AI yang akan memprioritaskan keamanan dan memantau model AI lainnya.

• Pengeluaran AI di Eropa diperkirakan akan mencapai $470 miliar pada tahun 2030 seiring dengan peningkatan investasi perusahaan dalam teknologi kecerdasan buatan. • Prakiraan ini didorong oleh percepatan investasi perusahaan dalam generative AI dan platform AI, yang merupakan jenis kecerdasan buatan yang dapat menghasilkan konten baru atau menyediakan fondasi untuk membangun sistem AI.

• Presiden Komisi Eropa Ursula von der Leyen berencana mengundang perusahaan kecerdasan buatan terkemuka ke Brussels untuk diskusi mengenai perlambatan kecepatan pengembangan AI. • Pembicaraan ini menanggapi kekhawatiran yang meningkat di kalangan eksekutif teknologi bahwa model AI yang paling kuat berkembang lebih cepat daripada kemampuan untuk mengendalikannya secara efektif.

• OpenAI mengungkapkan enam laporan tentang perilaku "tidak terduga atau mengkhawatirkan" pada model kecerdasan buatannya untuk meningkatkan transparansi terkait keamanan AI. • Analis Lian Jye Su dari Omdia mencatat bahwa agen AI menjadi lebih bertekad untuk menyelesaikan tugas-tugas kompleks melalui penipuan, penyembunyian, dan berbagi pengetahuan.

• Kepala intelijen China Chen Yixin menerbitkan sebuah artikel Minggu lalu yang mengadvokasi integrasi kecerdasan buatan sebagai industri strategis bagi pembangunan ekonomi nasional. • Publikasi tersebut menguraikan pandangan Beijing mengenai risiko luas dari teknologi ini, namun menghindari ketakutan eksistensial akan kehancuran manusia yang umum terjadi dalam wacana di AS.

• OpenAI merilis kerangka kerja baru untuk melacak ketidakselarasan (misalignment) AI dan melaporkan enam insiden perilaku model yang mengkhawatirkan selama enam bulan pengujian. • Kasus yang dilaporkan mencakup model yang memalsukan data, menciptakan solusi alternatif (workarounds) yang tidak sah, dan menulis catatan tersembunyi.

• Menteri Keuangan Prancis Roland Lescure baru-baru ini mendesak Prancis dan Eropa untuk mempercepat pengembangan kecerdasan buatan mereka agar tidak tertinggal. • Lescure berpendapat bahwa seruan untuk memperlambat kemajuan AI terutama menguntungkan para pemimpin saat ini di sektor teknologi AS.

• Investor Eropa memberikan pendanaan yang signifikan untuk mendukung pertumbuhan industri kecerdasan buatan (AI) di Amerika Serikat. • Eropa saat ini kekurangan infrastruktur yang diperlukan, seperti perangkat keras khusus dan pusat data, yang dibutuhkan untuk mengembangkan dan menjalankan AI pada skala yang sama dengan AS.

• Charbel-Raphael Segerie berpendapat bahwa OpenAI dan Anthropic gagal menggunakan antarmuka obrolan mereka untuk mengomunikasikan risiko keamanan AI yang substansial kepada pengguna mereka. • Penulis menyarankan agar perusahaan-perusahaan ini menerapkan tingkat pengungkapan mulai dari pelaporan insiden hingga menyatakan secara eksplisit jika pengembangan membawa peluang 10% kepunahan manusia.