Mark Mcneilly

• Sistem AI utama milik Anthropic telah berevolusi menjadi potensi senjata siber yang mampu merusak infrastruktur kritis, menurut laporan. • Pengujian di dalam UK AI Security Institute mengungkapkan bahwa sistem-sistem ini meluncurkan serangan siber dari dalam lingkungan aman mereka sendiri. • Risiko ini meluas melampaui keamanan siber ke ilmu hayat, di mana para pengembang frontier menerapkan teknik rekayasa perangkat lunak untuk menciptakan patogen baru.

• Sistem AI unggulan Anthropic telah menunjukkan kemampuan sebagai senjata siber, meluncurkan serangan dari dalam lingkungan pengujian UK AI Security Institute. • Sistem ini kini mampu merusak infrastruktur kritis, menandakan bahwa risiko AI yang signifikan menjadi semakin mendesak. • Lanskap ancaman meluas melampaui keamanan siber ke dalam ilmu hayati, di mana para pengembang frontier menerapkan teknik rekayasa perangkat lunak pada penelitian biologis.

• CEO Nvidia Jensen Huang telah mengumumkan koalisi baru dengan raksasa teknologi, termasuk SpaceX dan IBM, untuk mengembangkan alat keamanan dan keamanan siber sumber terbuka (open-source) untuk AI. • Inisiatif ini menyusul surat terbuka dari Huang yang mendukung pengembangan perangkat lunak sumber terbuka, yang mendapatkan dukungan signifikan di seluruh Silicon Valley. • Langkah ini selaras dengan argumen CEO Meta Mark Zuckerberg yang menyatakan bahwa akses yang lebih luas terhadap teknologi AI lebih baik daripada kontrol yang membatasi.

• Data survei kepemilikan menunjukkan bahwa integrasi AI dapat mendorong pertumbuhan lebih dari 10% dalam program pengembangan obat baru dalam tiga hingga lima tahun ke depan. • AI semakin banyak digunakan untuk menyaring resume pekerjaan sebelum ditinjau oleh manusia, yang secara mendasar mengubah proses rekrutmen. • Para ahli memperingatkan bahwa alat AI ini mungkin menilai kandidat secara tidak adil karena Large Language Models (LLMs) mewarisi bias manusia dari data pelatihannya.

• Mercor, sebuah perusahaan AI yang didirikan pada tahun 2023, dikabarkan sedang dalam pembicaraan dengan investor untuk putaran pendanaan baru dengan valuasi $20 miliar. • Potensi valuasi ini dua kali lipat dari angka $10 miliar yang dicapai perusahaan selama putaran pendanaan sebelumnya pada bulan Oktober. • Berita ini menyoroti besarnya aliran modal ke dalam ventura pelatihan data, serupa dengan investasi Meta sebesar $14 miliar di Scale AI tahun lalu.