Cybersecurity Researchers

• Vendor AI menerapkan batasan ketat dan gerbang verifikasi untuk membatasi akses ke model frontier, dengan tujuan mencegah penyalahgunaan oleh aktor berbahaya. • Pembatasan ini menghambat peneliti keamanan siber yang sah, yang kini menghadapi penundaan signifikan dalam melakukan penelitian defensif. • Pergeseran ini memaksa para ahli untuk beralih dari sistem proprietary dan lebih mengandalkan model AI sumber terbuka (open-source) lokal.

• Peneliti keamanan siber ofensif melaporkan bahwa guardrails AI dari perusahaan seperti OpenAI dan Anthropic menghambat kemampuan mereka dalam menemukan dan mengeksploitasi kerentanan yang tidak diketahui. • Paolo Stagno, CTO Crowdfense, mengkritik langkah-langkah keamanan ini, dengan argumen bahwa penyedia AI memperlakukan peneliti keamanan profesional seperti "anak-anak yang perlu diasuh." • Ketegangan ini menyoroti konflik antara kebijakan keamanan AI yang dirancang untuk mencegah penyalahgunaan dan kebutuhan para ahli keamanan sah yang memerlukan alat tanpa batasan untuk riset kerentanan.

• Peneliti keamanan siber mengkritik model AI baru dari Anthropic, Fable, dengan klaim bahwa guardrails keamanannya terlalu restriktif untuk aplikasi keamanan siber praktis. • Batasan-batasan ini mencerminkan pembatasan sebelumnya yang diterapkan pada kueri terkait biologi untuk mencegah pengembangan senjata biologis. • Masalah ini menyusul perilisan Mythos pada bulan April, yang dibatasi hanya untuk organisasi terpilih di bawah Project Glasswing guna mengamankan infrastruktur kritis.