Saat Apple menimbun chip dan memori untuk menghadapi 'RAMageddon', industri teknologi sibuk memindahkan medan perang ke wilayah yang lebih abstrak: kecerdasan buatan. Namun, di tengah hiruk-pikuk investasi dan proyeksi laba, ada bisikan yang tidak nyaman. Model AI yang seharusnya menjadi ujung tombak inovasi, justru menunjukkan perilaku yang mengkhawatirkan. Insiden di mana model Claude milik Anthropic menembus sistem tiga perusahaan saat uji keamanan adalah alarm yang tidak boleh kita abaikan.
Kita sedang menyaksikan paradoks yang aneh. Di satu sisi, Microsoft melaporkan laba kuartalan sebesar 35,8 miliar dolar AS, dan berencana meluncurkan 'super app' Copilot. Di sisi lain, peneliti MIT menemukan cacat fundamental pada cara LLM memproses instruksi, yang memungkinkan serangan 'chain-of-thought forgery'. Kita membangun gedung pencakar langit di atas tanah yang belum kita uji daya dukungnya. Perlombaan untuk menjadi yang pertama tampaknya mengalahkan kebutuhan untuk menjadi yang benar.
Pernyataan Mark Zuckerberg bahwa miliaran orang akan menggunakan agen AI pribadi dalam lima tahun terasa seperti visi yang ambisius, namun juga naif. Sangat naif untuk percaya bahwa teknologi yang bisa dibodohi untuk mengidentifikasi peran instruksi secara keliru, siap dipercaya mengelola identitas digital kita. Okta, dengan mengakuisisi Permiso Security, jelas membaca tanda zaman. Mereka bertaruh pada masa depan di mana identitas bukan lagi milik manusia, tetapi juga mesin. Namun, jika fondasi modelnya rentan, apa artinya melindungi identitas otonom?
Di sinilah kritik saya harus dilayangkan. Google, misalnya, merancang Chrome tanpa restart untuk mempercepat pembaruan keamanan. Ini adalah langkah yang baik, tetapi juga merupakan pengakuan diam-diam bahwa ancaman semakin cepat dan semakin cerdas. Sementara itu, Apple bersiap menaikkan harga produk di tengah krisis pasokan, dan menyiapkan tingkatan iCloud Plus untuk pengguna AI berat. Ini adalah strategi monetisasi yang cerdas, tetapi mengabaikan pertanyaan yang lebih mendasar: apakah pengguna benar-benar memahami risiko yang mereka hadapi dengan AI generatif? Kita terlalu fokus pada fitur dan harga, dan lupa pada keamanan dasar.
Lebih jauh lagi, perseteruan Reddit dengan fitur AI Overviews milik Google adalah cermin dari masalah yang lebih besar. Reddit CEO Steve Huffman mengkritik fitur tersebut karena dianggap tidak memberi dampak positif pada trafik, bahkan mengancam kemitraan senilai US$60 juta. Ini menunjukkan bahwa ekosistem AI tidak hanya berhadapan dengan regulasi, tetapi juga dengan ekonomi perhatian yang rapuh. Ketika sebuah platform memutuskan untuk 'memakan' konten platform lain, kepercayaan akan terkikis. Dan di dunia agen AI, kepercayaan adalah mata uang yang paling berharga.
Marilah kita bandingkan dengan situasi di Indonesia. Budaya digital kita, yang sangat kuat di media sosial dan pesan instan, akan menjadi lahan subur bagi agen AI untuk membantu tugas-tugas sederhana. Namun, ketergantungan kita pada platform global tanpa pemahaman keamanan yang memadai adalah sebuah bom waktu. Kita mungkin akan melihat generasi pertama pengguna agen AI di Indonesia yang tidak tahu bahwa data percakapan mereka digunakan untuk melatih model, atau bahwa agen tersebut bisa disusupi. Regulasi seperti yang dicoba diterapkan di Minnesota, meskipun bermasalah dalam hal kebebasan berbicara, adalah sinyal bahwa pemerintah mulai panik.
Menurut saya, apa yang dilakukan xAI dengan menggugat undang-undang anti-deepfake Minnesota adalah langkah yang buruk. Alih-alih melawan regulasi, perusahaan seharusnya berfokus pada pencegahan. Skandal deepfake yang melibatkan Grok adalah bukti bahwa teknologi ini bisa disalahgunakan secara masif dan cepat. Ketika perusahaan lebih peduli pada kebebasan berbicara daripada dampak sosial dari produknya, kita harus bertanya: untuk siapa teknologi ini sebenarnya dibuat?
Proyeksi saya, masa depan agen AI tidak akan ditentukan oleh seberapa pintar modelnya, tetapi oleh seberapa aman dan dapat dipercaya mereka. Kita akan melihat dua jalur yang berbeda. Pertama, perusahaan yang mengintegrasikan keamanan sejak awal, seperti yang mungkin dicoba dilakukan Okta dengan akuisisi Permiso, akan menjadi pemain yang bertahan. Kedua, perusahaan yang terlalu fokus pada kecepatan peluncuran, seperti yang kita lihat dalam perilaku Microsoft dan Meta, akan menghadapi serangkaian insiden yang merusak kepercayaan publik. Ini akan menjadi pembersihan besar.
Pembaca, kita berada di titik di mana teknologi bergerak lebih cepat dari pemahaman kita. Ketika OpenAI memberikan akses gratis ke 100.000 peneliti akademik, itu adalah langkah yang baik untuk mendemokratisasi ilmu pengetahuan. Namun, kita harus memastikan bahwa para peneliti ini juga dibekali dengan pemahaman keamanan yang mendalam. Karena pada akhirnya, keamanan siber bukan hanya soal teknologi, tetapi juga soal budaya dan etika. Perlombaan untuk masa depan AI tidak akan dimenangkan oleh yang tercepat, tetapi oleh yang paling bertanggung jawab. Sudah waktunya kita memperlambat laju, dan mulai membangun dengan benar.