Cybersecurity Researchers

• Vendor AI menerapkan batasan ketat dan gerbang verifikasi untuk membatasi akses ke model frontier, dengan tujuan mencegah penyalahgunaan oleh aktor berbahaya. • Pembatasan ini menghambat peneliti keamanan siber yang sah, yang kini menghadapi penundaan signifikan dalam melakukan penelitian defensif. • Pergeseran ini memaksa para ahli untuk beralih dari sistem proprietary dan lebih mengandalkan model AI sumber terbuka (open-source) lokal.

• Peneliti keamanan siber ofensif melaporkan bahwa guardrails AI dari perusahaan seperti OpenAI dan Anthropic menghambat kemampuan mereka dalam menemukan dan mengeksploitasi kerentanan yang tidak diketahui. • Paolo Stagno, CTO Crowdfense, mengkritik langkah-langkah keamanan ini, dengan argumen bahwa penyedia AI memperlakukan peneliti keamanan profesional seperti "anak-anak yang perlu diasuh." • Ketegangan ini menyoroti konflik antara kebijakan keamanan AI yang dirancang untuk mencegah penyalahgunaan dan kebutuhan para ahli keamanan sah yang memerlukan alat tanpa batasan untuk riset kerentanan.