Demis Hassabis, Chief Executive Officer Google DeepMind, menyerukan pembentukan lembaga pengawas independen guna memantau peluncuran model kecerdasan buatan (AI) berdaya tinggi. Seruan tersebut ia sampaikan melalui sebuah unggahan di platform X pada Selasa (14/7) bertajuk "A Framework for Frontier AI and the Dawning of a New Age".
Hassabis mengusulkan agar badan standar baru ini meniru model Financial Industry Regulatory Authority (FINRA) di sektor keuangan. Lembaga tersebut bertugas menguji model-model frontir sebelum diluncurkan serta merumuskan praktik terbaik dalam penerapannya. Ia menekankan bahwa pada tahap awal, laboratorium pengembang AI dapat secara sukarela menyerahkan model mereka untuk ditinjau maksimal 30 hari sebelum rilis resmi.
Usulan ini muncul sebagai respons atas kritik tajam terhadap peninjauan ad hoc yang dilakukan pemerintah Amerika Serikat terhadap model Mythos milik Anthropic dan Sol buatan OpenAI. Proses tersebut menuai kecaman lantaran dinilai minim keahlian teknis dan pengambilan keputusan yang tertutup terkait kapan sebuah model berhak diluncurkan.
Di bawah skema yang digagas Hassabis, wewenang penentuan tersebut dialihkan kepada organisasi baru. Entitas ini akan didukung oleh pemerintah AS, tetapi dananya berasal dari industri AI dan dioperasikan secara mandiri. Langkah ini diharapkan mampu menjembatani kontroversi yang masih menyelimuti regulasi AI di kalangan perusahaan teknologi maupun pemerintahan Trump.
Penasihat AI Gedung Putih sekaligus mitra umum a16z, Sriram Krishnan, sebelumnya menepis kemungkinan pembentukan regulator AI di cabang eksekutif. Ia secara tegas menyatakan "tidak akan ada FDA untuk AI". Mengadopsi badan pengatur swasta seperti FINRA dinilai menjadi jalan tengah yang memadai untuk meredam kekhawatiran tersebut.
Bagi ekosistem teknologi di Indonesia, gagasan ini membawa implikasi jangka panjang. Mayoritas layanan AI generatif yang digunakan masyarakat Tanah Air, mulai dari asisten coding hingga chatbot perbankan, berbasis pada model besar (LLM) dari AS seperti OpenAI dan Anthropic. Jika standar keamanan diperketat di pasar AS, kualitas dan keamanan model yang diekspor ke Indonesia otomatis terangkat.
Indonesia sendiri hingga saat ini belum memiliki badan evaluasi teknis sepadan untuk model AI domestik maupun impor. Regulasi saat ini lebih banyak berfokus pada perlindungan data dan etika umum, bukan pengujian keandalan model secara mendalam. Kehadiran standar global yang diakui dapat menjadi rujukan bagi pengembang lokal, seperti perusahaan rintisan yang merilis model bahasa Indonesia, untuk memastikan produknya kompetitif dan aman.
Dampaknya juga menyentuh sektor keamanan siber lokal. Tanpa verifikasi independen, model AI rentan dimanfaatkan untuk penyebaran disinformasi atau serangan sosial rekayasa. Pengguna korporasi di Indonesia perlu mulai menuntut transparansi evaluasi dari pemasok teknologi mereka, mengingat ketergantungan infrastruktur digital kita pada raksasa teknologi luar negeri sangat tinggi.
"The strength of this approach is it would be technically focused, while at the same time supporting innovation and incentivising responsible behaviour," tulis Hassabis dalam unggahannya. Ia menambahkan bahwa sistem ini dirancang untuk mengikuti akselerasi bidang AI dan beradaptasi dengan risiko terbesar seiring identifikasinya.
Skema yang diusulkan juga memungkinkan laboratorium AI bekerja sama dengan badan standar guna menangani kerentanan kritis pasca-peluncuran. Hassabis membayangkan regulator ini diisi oleh perwakilan sumber terbuka dan pakar teknis industri, dengan dukungan finansial dari lab AI agar talenta terbaik dapat dipertahankan. Sebagian evaluasi bahkan dapat dioutsource ke kelompok keamanan AI yang semakin berkembang.
Setelah protokol penilaian terbukti efektif dan tangguh, formalisasi dapat segera menyusul. Artinya, model frontir wajib lulus uji sebelum boleh diterapkan di pasar AS. Kendati demikian, pengawasan mandiri ini baru sebatas usulan dan memerlukan negosiasi panjang dengan berbagai pemangku kepentingan di Washington.
Tren regulasi swasta kemungkinan besar akan mempercepat adopsi AI yang bertanggung jawab di tingkat global. Jika mekanisme ala FINRA ini terealisasi, ia dapat ditingkatkan (ratcheted up) ketika situasi memburuk. Indonesia, sebagai pasar pengguna terbesar di Asia Tenggara, harus mulai memposisikan diri dalam arus standarisasi ini agar tidak menjadi kolam uji coba bagi model yang luput dari pengawasan ketat di negara asalnya.