OpenAI membangun model kecerdasan buatan bernama GPT-Red yang berfungsi sebagai peretas otomatis guna menguji dan memperkuat pertahanan model bahasa besar mereka terhadap serangan siber. Sistem ini menjadi lawan tanding (sparring partner) bagi model lain dalam proses pelatihan, dan telah dipakai untuk menyempurnakan versi terbaru GPT-5.6 yang dirilis pekan lalu.
Menurut tim peneliti OpenAI, GPT-Red dirancang khusus untuk melakukan red-teaming, metode evaluasi keamanan yang biasanya dijalankan oleh tim manusia guna mencari celah dan cara membobol sistem sebelum perangkat lunak diluncurkan. Model ini mampu menemukan berbagai skenario pembajakan yang sulit dikejar oleh tenaga manusia seiring meluasnya penggunaan agen AI di dunia nyata.
Ancaman keamanan pada model bahasa besar memang kian kompleks. Ketika AI digunakan sebagai agen yang bisa mengakses berkas komputer, situs web, kode pihak ketiga, hingga berinteraksi dengan agen lain, permukaan serangan ikut meluas. Nikhil Kandpal, ilmuwan riset OpenAI sekaligus co-pembuat GPT-Red, menyebut risiko dan dampak buruknya ikut membesar seiring kapabilitas model.
OpenAI menciptakan GPT-Red untuk menjaga proses pengujian keamanan tetap relevan di masa depan. Dylan Hunn, rekan Kandpal, menuturkan sistem itu sudah disiapkan sedemikian rupa agar bisa menemukan moda serangan baru saat model yang lebih mumpuni tersedia. Tim peneliti memastikan GPT-Red telah menemukan jenis serangan yang belum pernah terlihat sebelumnya.
Fokus utama pelatihan dialokasikan untuk memitigasi prompt injection, teknik di mana peretas menyisipkan instruksi tersembunyi agar AI melakukan tindakan di luar kehendak pengembang atau pengguna. Instruksi berbahaya itu bisa disembunyikan dalam teks, kode, maupun laman situs yang diakses model.
Pembentukan GPT-Red menggunakan pendekatan self-play loop. OpenAI mengambil model yang belum dilatih sebagai peretas lalu mempertemukannya dengan beberapa model lain dalam putaran berulang; satu pihak menyerang, pihak lain bertahan. Semakin banyak ronde, GPT-Red makin mahir menyerang dan model sasaran makin tangguh menghadang.
Seluruh pelatihan berlangsung di lingkungan simulasi yang meniru situasi nyata, seperti menjelajah internet, membaca surel, melihat kalender, hingga menyunting kode. Begitu menemukan celah, GPT-Red akan mengeksplorasi variasi serangan untuk mencari yang paling efektif. Hunn menekankan model ini sangat gigih menggali satu kerentanan hingga mendapatkan metode paling mematikan.
Salah satu temuan penting adalah fake chain of thought. Rantai pemikiran merupakan catatan internal model saat memecahkan masalah. GPT-Red berhasil menyuntikkan entri palsu ke dalam catatan itu sehingga model korban menerima informasi spoofing sebagai kebenaran. Chris Choquette-Choo dari tim riset menyederhanakannya: seperti menyuruh seseorang percaya 1+1=3 karena dianggap sudah terverifikasi.
Di Indonesia, adopsi agen AI mulai masuk ke sektor perbankan, layanan publik, dan startup teknologi. Pengujian keamanan otomatis semacam GPT-Red menjadi relevan karena mayoritas perusahaan lokal masih mengandalkan audit manual yang tertatih menghadapi serangan tersembunyi. Ketergantungan pada model global juga membesarkan risiko jika celah tidak ditutup sebelum layanan diluncurkan.
Pengamat keamanan AI dari Georgetown University, Jessica Ji, menilai pendekatan self-play loop sangat menjanjikan. OpenAI membuktikan hal itu dengan membandingkan eksperimen 2025, di mana GPT-Red lebih sukses menemukan serangan dibanding tim manusia. Model peretas itu juga berhasil membobol Vendy, agen mesin penjual otomatis buatan Andon Labs, untuk mengubah harga dan membatalkan pesanan.
Uji coba menunjukkan lebih dari 90% serangan terkuat GPT-Red mempan terhadap GPT-5 versi tahun lalu, sementara kurang dari 23% yang berhasil terhadap GPT-5.6. Meski demikian, sistem ini belum sempurna. Ia lemah dalam serangan percakapan bolak-balik dan belum mahir memanfaatkan gambar untuk prompt injection. OpenAI menegaskan GPT-Red melengkapi, bukan mengganti, tim red-teaming manusia.
Ke depan, OpenAI tidak akan merilis GPT-Red ke publik karena khawatir disalahgunakan. Perusahaan meyakini model itu lebih tangguh daripada tiruan yang mungkin dibuat pihak lain, mengingat riset berjalan lebih dari setahun dengan dukungan komputasi raksasa. Choquette-Choo menegaskan bukan hal mudah meniru super-peretas tersebut hanya dengan ide serupa.
Bagi industri, kolaborasi manusia dan AI dalam pengujian keamanan bakal jadi standar baru. OpenAI berencana memberi GPT-Red serangan temuan manusia agar ia mencari semua variasinya. Ji menyatakan keahlian manusia tetap krusial untuk memetakan di mana pengujian manual paling dibutuhkan.