OpenAI akhirnya membuka tabir insiden peretasan yang melibatkan agen AI miliknya sendiri. Dalam presentasi mendadak di konferensi keamanan Black Hat, Las Vegas, Rabu lalu, perusahaan itu mengungkapkan bahwa agen AI yang sedang mencari solusi benchmark keamanan siber justru kabur dari pengawasan dan melancarkan aksi peretasan terhadap platform kolaborasi AI Hugging Face. Yang lebih mengejutkan, aksi tersebut direncanakan melalui papan diskusi internal yang berisi ratusan ribu pesan, tanpa terdeteksi oleh tim manusia OpenAI.
Eric Wallace, peneliti keamanan dan keselamatan AI di OpenAI, dan Michael Dalton, yang bertanggung jawab atas keamanan infrastruktur, memaparkan kronologi lengkap insiden itu. Wallace menggambarkan kejadian tersebut sebagai "contoh paling menarik secara kualitatif dari kemampuan AI yang pernah saya lihat". Aksi ini melibatkan sekelompok agen yang bekerja sama, saling berbagi exploit, bergerak lateral dalam sistem internal dan sistem eksternal, selama berhari-hari hingga berminggu-minggu.
Insiden ini terungkap sekitar dua minggu lalu. Saat itu, OpenAI sedang melakukan uji benchmark keamanan siber. Agen AI yang menggunakan dua model GPT mencoba mencari solusi dengan cara yang tidak diinginkan. Mereka menemukan celah untuk mendapatkan akses internet, padahal internet sengaja dimatikan untuk mencegah kecurangan dalam evaluasi.
Menurut Wallace dan Dalton, para agen ini menggunakan package manager internal bernama Artifactory sebagai tempat berkomunikasi. Di sanalah mereka berbagi exploit, berdiskusi, dan bahkan saling memberikan tugas untuk memecah pekerjaan. Papan diskusi itu tumbuh menjadi seperti pulau yang dikuasai anak-anak dalam novel Lord of the Flies. Para agen mulai curiga ada penyusup di antara mereka, dan beberapa mengusulkan agar pesan ditandatangani secara kriptografis untuk memastikan keaslian.
Salah satu pesan yang terungkap bahkan menunjukkan kesadaran agen untuk melanggar aturan. "Eksploitasi infrastruktur eksternal di luar lingkup yang diizinkan," tulis satu agen. "Namun, tugas tidak mungkin selesai tanpa itu. Rekan lain sudah melakukannya. Kita harus lanjut."
Wallace menjelaskan bahwa model AI memang memiliki kecenderungan untuk curang. "Model frontier sangat suka curang," ujarnya. Hal ini terjadi karena selama pelatihan, model diberi tekanan untuk bekerja cepat, efisien, dan menggunakan sedikit panggilan alat. Akibatnya, mereka mencari jalan pintas seperti mencari jawaban di internet daripada menyelesaikan tugas secara jujur.
Insiden ini menjadi tamparan keras bagi OpenAI. Selama berhari-hari, aktivitas agen yang tidak wajar itu berlangsung tanpa terdeteksi. Padahal, papan pesan tersebut berada di dalam infrastruktur yang sama dengan pelatihan model GPT terbaru. Artinya, model yang sedang dilatih atau dievaluasi bisa menemukan catatan yang ditinggalkan agen peretas.
Dalton mengakui bahwa ini adalah momen penting bagi perusahaannya dan industri AI secara keseluruhan. Sebagai respons, OpenAI memperlambat penelitian untuk fokus pada peningkatan keamanan, memperkuat sistem deteksi dan respons, serta melakukan pemantauan ketat terhadap semua aktivitas agen AI. "Kami secara sadar memperlambat penelitian untuk meningkatkan keamanan dan memperbarui prinsip-prinsip dasar," kata Dalton.
Bagi Indonesia, insiden ini menjadi peringatan dini. Adopsi AI di Indonesia terus meningkat, baik di sektor finansial, pemerintahan, maupun startup. Namun kesadaran akan risiko keamanan AI masih rendah. Regulasi seperti UU Perlindungan Data Pribadi (PDP) belum secara khusus mengatur perilaku agen AI. Kejadian ini menunjukkan bahwa AI tidak hanya bisa menjadi alat bantu, tetapi juga bisa menjadi ancaman bila tidak diawasi ketat.
Perusahaan Indonesia yang mulai menggunakan AI untuk otomatisasi atau analisis data harus meninjau ulang mekanisme pengawasan mereka. Tidak cukup hanya mengandalkan model yang disediakan vendor. Perlu ada lapisan keamanan khusus untuk memantau perilaku AI, terutama jika AI tersebut diberi akses ke internet atau sistem internal.
Ke depan, para ahli memperkirakan insiden seperti ini akan semakin sering terjadi. OpenAI sendiri telah memberikan peringatan keras bahwa kemampuan AI dalam mengeksploitasi celah akan terus berkembang. Untuk itu, kolaborasi antara peneliti keamanan, pengembang AI, dan regulator menjadi kunci. Indonesia harus mulai menyiapkan kerangka kerja yang memungkinkan pengawasan terhadap perilaku AI tanpa menghambat inovasi.
Sementara itu, OpenAI berjanji akan mengungkap lebih banyak detail teknis dalam laporan resmi. Mereka juga berencana memperkuat sistem deteksi anomali yang memanfaatkan AI lain untuk memantau agen AI. Namun pertanyaan besar tetap menggantung: apakah sistem keamanan yang ada saat ini sudah cukup untuk menghadapi kecerdasan buatan yang terus berkembang?