Peneliti keamanan siber ofensif — yang tugasnya menemukan celah sebelum para peretas memanfaatkannya — kini menghadapi hambatan tak terduga: guardrail keamanan yang dipasang oleh raksasa AI seperti Anthropic dan OpenAI. Batasan yang dirancang untuk mencegah penyalahgunaan justru mengganggu pekerjaan legitimate para ahli yang dibayar untuk memecahkan sistem demi memperkuat pertahanan.
Masalah ini memuncak bulan Juni lalu ketika pemerintah AS menerapkan kontrol ekspor pada model Mythos dan Fable milik Anthropic. Langkah itu diambil setelah laporan mengklaim guardrail model tersebut bisa dibypass untuk membangun serangan siber berbahaya. Meskipun kontrol ekspor untuk Fable 5 dicabut pada 1 Juli dan Mythos 5 dikembalikan hanya untuk organisasi AS terverifikasi, praktik gatekeeping ini sudah menjadi pola industri.
Anthropic dan OpenAI keduanya menawarkan program verifikasi khusus: Cyber Verification Program dan Trusted Access for Cyber. Peneliti harus apply dan divetting sebelum mendapat akses model dengan batasan longgar. Namun, banyak pakar yang merasa proses ini justru menciptakan hierarki akses yang sewenang-wenang. Mark Dowd, peneliti zero-day veteran yang menjual eksploit ke pemerintah Barat, menilai perusahaan besar tak berhak memutuskan apa yang aman atau tidak di bidang keamanan siber.
Chris Anley, chief scientist di NCC Group, menjelaskan bahwa meminta AI mengeksploitasi bug adalah langkah krusial untuk memvalidasi apakah kerentanan itu nyata dan layak diperbaiki. "Prompt 'perbaiki kode ini' sekaligus menjadi mekanisme pertahanan dan peta menuju kerentanan kritis," kata Anley. "Alat yang sama bersifat ofensif dan defensif sekaligus — keduanya tak bisa dipisahkan." Ia membandingkannya dengan palu: tak bisa membangun rumah tanpa palu, tapi palu juga bisa jadi senjata.
Ketika guardrail memblokir analisis, Anley dan timnya beralih ke model open source yang tidak punya batasan sama sekali. Paolo Stagno, CTO CrowdFense — perusahaan yang mengembangkan dan menjual kerentanan nol hari ke pemerintah — setuju. Menurutnya, program verifikasi dan guardrail memperlakukan pelanggan "seperti anak-anak yang butuh pengasuh." Timnya memakai model frontier hanya untuk reverse engineering, sedangkan pencarian kerentanan dan pembuatan eksploit dilakukan di model open source yang dijalankan lokal untuk menghindari kebocoran data sensitif.
Tidak semua peneliti merasa terhambat. Giuseppe Cali, pemburu zero-day, justru tidak memakai AI untuk pekerjaan ofensif. Ia gunakan AI hanya untuk reverse engineering awal dan membangun tools pendukung. "Saya masih ingin menguasai penemuan bug dan penyalahgunaannya sendiri," kata Cali. "Saya cemburu pada bug saya, dan terlalu menikmati permainan ini untuk diserahkan ke model."
Di sisi lain, seorang peneliti di produsen komponen smartphone — yang menolak disebut namanya — mengaku tools Anthropic hampir tak berguna karena employer-nya bukan bagian dari program CVP. "Saat model mendeteksi aktivitas keamanan, ia berhenti dan jadi tak berguna," ujarnya. Chris Thompson, CEO RemoteThreat dan pendiri Offensive AI Con, menambahkan guardrails justru tidak konsisten dan berubah-ubah setiap hari, bahkan di dalam program verifikasi. "Waktu banyak terbuang untuk bernegosiasi dengan model, bukan mengerjakan program keamanan inti," katanya.
Dampak praktisnya, para peneliti terdorong ke model open source asal China seperti DeepSeek atau Qwen yang bebas dari guardrail ketat. Ironisnya, upaya AS membatasi akses AI untuk keamanan justru mendorong pakar ke ekosistem model buatan negara lawan. Di Indonesia, fenomena ini relevan mengingat ekosistem bug bounty dan red teaming lokal mulai berkembang. Perusahaan seperti Tokopedia, Gojek, dan bank-bank besar rutin mengadakan program bounty, namun tim keamanan internal sering keterbatasan alat.
Ketergantungan pada model cloud berbasis AS menciptakan risiko ketergantungan data dan kebijakan luar negeri. Beberapa tim keamanan Indonesia sudah mulai bereksperimen dengan model open source yang di-hosting lokal, mengikuti jejak peneliti global. Namun, kualitas reasoning model lokal belum sebanding model frontier untuk tugas kompleks seperti analisis binary atau pembuatan exploit chain.
Masa depan guardrail AI di bidang keamanan akan bergantung pada apakah perusahaan AI mau mendengarkan masukan praktisi. Beberapa pakar menyarankan pendekatan berbasis konteks: model mengenali intent pengguna melalui verifikasi identitas dan tujuan, bukan blokir berbasis kata kunci. Tanpa kolaborasi, gap antara kebutuhan pertahanan dan kebijakan keamanan AI akan semakin lebar — dan yang rugi justru pihak yang berusaha melindungi sistem.