Anthropic mendesak ‘jeda sementara’ pada pengembangan AI untuk mendiskusikan risiko
• Pengumuman bahwa ‘pembuat kebijakan’ perlu dikumpulkan oleh firma AS ini dipandang sebagai taktik pemasaran oleh beberapa pakar • Anthropic telah mengusulkan ide tentang “jeda sementara” worldwide dalam pengembangan AI – dan menyatakan akan mengumpulkan “pembuat kebijakan” untuk mendiskusikan bahaya dari AI tingkat lanjut – dalam rilis terbarunya yang mempromosikan kapabilitas produk mereka. • Dalam postingan panjang pada hari Kamis, Anthropic merinci kemajuan model AI-nya, Claude, menuju “recursive self improvement” – yaitu, kemampuan untuk membuat versi dirinya yang lebih baik dan lebih kuat. Recursive self-improvement adalah kekhawatiran utama bagi peneliti keselamatan AI, yang dianggap sebagai langkah kunci bagi AI untuk menjadi superintelligent dan karenanya menimbulkan konsekuensi luas bagi kemanusiaan. Baca selengkapnya...
theguardian.com