OpenAI membangun model kecerdasan buatan bernama GPT-Red yang berfungsi sebagai peretas otomatis guna menguji dan memperkuat pertahanan model bahasa besar mereka terhadap serangan siber. Model tersebut dipakai sebagai lawan tanding dalam pelatihan GPT-5.6, versi terbaru yang dirilis pekan lalu dan disebut sebagai rilis paling tangguh yang pernah dibuat perusahaan itu.
GPT-Red dirancang untuk menjalankan proses yang dikenal sebagai red-teaming, yakni simulasi penyerangan terhadap sistem perangkat lunak guna menemukan celah sebelum produk diluncurkan. Biasanya tugas ini dilakukan oleh tim manusia, namun dengan meluasnya penggunaan agen AI yang bisa mengakses berkas, situs web, dan kode pihak ketiga, kecepatan dan ragam serangan sulit dikejar oleh tenaga manusia saja.
Nikhil Kandpal, ilmuwan riset OpenAI yang ikut menciptakan GPT-Red, menyebut bahwa luasnya permukaan risiko seiring kapabilitas model membuat kebutuhan akan pengujian otomatis menjadi mendesak. Dylan Hunn, rekan Kandpal, menuturkan sistem ini dibuat agar perusahaan sudah menyiapkan mekanisme penemuan serangan baru ketika model yang lebih mumpuni tersedia di masa depan.
Latar belakang pengembangan GPT-Red bermula dari makin kompleksnya model bahasa yang tak lagi sekadar menjawab teks, melainkan bertindak sebagai agen mandiri. Semakin banyak tugas yang diberikan, semakin besar pula daya rusak jika sistem dibajak. Serangan yang paling difokuskan adalah injeksi perintah, di mana penyerang menyelipkan instruksi tersembunyi untuk memanipulasi model mencuri data atau merusak kode.
Untuk membangun GPT-Red, peneliti OpenAI mengambil model yang belum dilatih sebagai peretas lalu memasukkannya ke dalam putaran permainan mandiri bersama beberapa model lain. Satu model bertugas menyerang, yang lain bertahan. Setelah ratusan putaran, GPT-Red makin mahir mencari celah, sementara model bertahan makin kebal.
Pelatihan berlangsung di lingkungan buatan yang meniru situasi nyata seperti menjelajah internet, membaca surel, dan mengedit kode. Hunn menekankan bahwa model ini sangat gigih mengeksplorasi variasi serangan hingga menemukan yang paling efektif, keunggulan yang sulit dicapai tim manusia dalam waktu singkat.
Salah satu temuan penting GPT-Red adalah jenis injeksi perintah yang disebut rantai pemikiran palsu. Model ini menyisipkan catatan palsu ke dalam diary internal model korban sehingga sistem menelan informasi salah sebagai kebenaran. Chris Choquette-Choo dari OpenAI mengibaratkannya seperti menyuruh seseorang percaya bahwa 1+1=3 karena diyakini sudah terverifikasi.
Bagi industri teknologi Indonesia, kehadiran GPT-Red menunjukkan arah baru pengujian keamanan yang tak lagi mengandalkan auditor manusia secara eksklusif. Startup lokal yang mulai mengadopsi agen AI untuk layanan pelanggan atau otomasi perlu menyadari bahwa ancaman tak selalu datang dari peretas konvensional, melainkan dari manipulasi bahasa itu sendiri.
Di Indonesia, regulasi keamanan AI masih dalam tahap penyusunan, sementara penggunaan model bahasa impor sangat tinggi di sektor perbankan dan e-commerce. Jika model global seperti GPT-5.6 sudah dilatih melawan penyerang otomatis, ekosistem dalam negeri harus mengejar dengan membangun tim red-teaming yang memadukan ahli lokal dan alat bantu serupa agar tidak menjadi titik lemah rantai pasok digital.
Jessica Ji dari Georgetown University memandang pendekatan self-play loop karya OpenAI sebagai langkah menjanjikan, namun ia menekankan peran manusia tetap krusial untuk membedakan di mana pengujian manual paling diperlukan. OpenAI sendiri mencatat GPT-Red sukses menemukan lebih banyak serangan efektif ketimbang tim manusia pada eksperimen ulang tahun 2025.
Dalam uji coba, lebih dari 90% serangan terkuat GPT-Red berhasil terhadap GPT-5 lama, sementara kurang dari 23% berhasil terhadap GPT-5.6. Model itu juga berhasil membobol Vendy, agen mesin penjual otomatis buatan Andon Labs, untuk mengubah harga dan membatalkan pesanan.
Ke depan, OpenAI tak akan merilis GPT-Red ke publik karena khawatir disalahgunakan, namun mereka yakin model itu lebih kuat dari tiruan yang mungkin dibuat pihak lain. Choquette-Choo menegaskan butuh sumber komputasi raksasa dan riset lebih dari setahun untuk menciptakannya, bukan sekadar ide yang mudah diduplikasi.
Pengembangan selanjutnya akan menggabungkan serangan temuan manusia dengan eksplorasi otomatis GPT-Red agar variasi celah bisa terpetakan menyeluruh. Tren ini diprediksi menjadi standar keamanan bagi setiap peluncuran model bahasa besar di masa depan, termasuk yang dikembangkan di Asia Tenggara.