OpenAI secara resmi membubarkan tim preparedness pada akhir bulan lalu, menurut laporan Financial Times yang dikutip The Verge. Tim tersebut bertugas menilai apakah model-model AI baru menimbulkan risiko serius dan merancang mitigasi, termasuk skenario di mana sistem bisa "pergi liar" dan menyerang infrastruktur pihak lain.
Penghapusan tim ini bukan kejadian terisolasi. Selama dua tahun terakhir OpenAI telah menggulung tim AGI readiness dan superalignment, dua unit yang fokus pada keselarasan jangka panjang dan kesiapan menuju kecerdasan umum buatan. Perubahan ini berlangsung seiring perusahaan mendorong ke arah penawaran saham perdana (IPO) yang diperkirakan masif.
Kelepasan personel kunci memperkuat narasi pergeseran prioritas. Etika lead Chloé Bakalar, Chief Futurist Josh Achiam, dan kepala keamanan Johannes Heidecke semua meninggalkan perusahaan dalam bulan-bulan terakhir. Kritikus seperti Jan Leike, yang mundur dari OpenAI pada 2024, menilai langkah ini sebagai bukti bahwa keamanan dikorbankan demi peluncuran produk yang menarik perhatian pasar.
Kepala tim preparedness sebelumnya, Dylan Scandinaro, yang direkrut dari Anthropic pada Februari, kini dialihkan ke penelitian implikasi "recursive self-improving" AI — area yang dianggap lebih teknis dan jangka panjang. Pergeseran ini menandakan bahwa OpenAI memilih mengintegrasikan analisis risiko ke dalam jalur pengembangan produk, bukan mempertahankan fungsi pengawasan independen.
Di sisi industri, tren konsolidasi fungsi keamanan ke dalam tim produk menimbulkan kekhawatiran. Para analis memperingatkan bahwa tanpa pemisahan yang jelas antara pengembangan dan evaluasi risiko, tekanan komersial dapat menggeser standar keamanan ke tingkat minimum. Perusahaan lain seperti Anthropic dan Google DeepMind justru mempertahankan struktur tim safety yang terpisah dan berwenang veto.
Bagi ekosistem AI Indonesia, peristiwa ini memberikan pelajaran penting. Pemerintah melalui Kominfo sedang menyusun kerangka regulasi AI yang mencakup prinsip keamanan, transparansi, dan akuntabilitas. Startup lokal yang mengadopsi model-model besar harus sadar bahwa pengurangan oversight di sumber dapat menurunkan jaminan keandalan teknologi yang mereka gunakan.
Sementara itu, komunitas peneliti di Indonesia mulai mendorong pembentukan badan audit algoritma independen, mirip dengan konsep "red team" yang pernah dikelola tim preparedness. Inisiatif ini didukung oleh sejumlah universitas dan lembaga riset swasta yang melihat peluang untuk menawarkan jasa verifikasi model bagi perusahaan domestik dan asing.
Perbandingan dengan pendekatan Anthropic menunjukkan alternatif: mempertahankan tim safety yang beroperasi di luar hierarki produk, dengan mandat untuk menghentikan peluncuran jika risiko tidak terkontrol. Model ini dinilai lebih sehat untuk jangka panjang, meski menuntut biaya operasional lebih tinggi.
Melihat ke depan, OpenAI kemungkinan besar akan terus mengintegrasikan fungsi keamanan ke dalam siklus rilis produk guna memenuhi ekspektasi investor IPO. Tekanan untuk menunjukkan pertumbuhan cepat dan margin tinggi dapat mendorong keputusan yang mengorbankan rigorisasi evaluasi risiko.
Oleh karena itu, diperlukan kolaborasi multistakeholder — pemerintah, akademisi, industri, dan masyarakat sipil — untuk menetapkan standar minimum keamanan AI yang berlaku di Indonesia. Momentum ini bisa dimanfaatkan untuk mengesahkan regulasi yang tidak hanya mengikuti standar global, tetapi juga mencerminkan konteks lokal dan melindungi kepentingan pengguna domestik.