New York City mengambil langkah yang jarang dilakukan pemerintah lain: memasang desainer dan manajer produk sebagai tulang punggung pengembangan kecerdasan buatan untuk layanan publik. Inisiatif ini lahir dari kesadaran bahwa model AI paling canggih pun akan gagal jika tidak dipahami oleh warga yang menggunakannya, atau jika tidak ada yang bertanggung jawab saat sistem itu beroperasi di dunia nyata.
Program PIT Crew yang diluncurkan kota ini merekrut talenta produk, rekayasa, dan desain untuk proyek-proyek layanan digital. Bukan sekadar rekrutmen rutinitas, program ini mengakui bahwa transformasi digital di sektor publik membutuhkan keterampilan riset pengguna, manajemen produk, dan pengiriman solusi — bukan hanya keahlian data science murni. Greg Godbout dari Flamelit, yang terlibat dalam pendekatan ini, menegaskan bahwa AI harus diperlakukan sebagai produk dengan siklus hidup penuh: temukan, bangun, luncurkan, dan operasikan.
Latar belakangnya jelas. Selama ini, banyak proyek AI di sektor publik terjebak di tahap proof-of-concept. Model dilatih dengan metrik teknis yang memuaskan — akurasi, precision, recall — tapi tidak pernah sampai ke tangan pengguna akhir. Atau jika sampai, antarmukanya membingungkan, tidak ada jalur untuk mengajukan keberatan, dan tidak ada tim yang bertanggung jawab memantau performa saat data berubah. Godbout menyebut tiga kegagalan klasik: model yang teknis canggih tapi tidak dipercaya, sistem rapuh tanpa tinjauan manusia, dan fitur yang ditinggal mati di produksi karena kepemilikan tidak jelas.
Di sinilah peran desainer dan manajer produk menjadi kritis. Desainer menerapkan design thinking: memusatkan kebutuhan manusia, membuat prototipe alur pengguna, memvalidasi apakah antarmuka dan alur keputusan bisa dipahami dan diakses. Mereka mengungkap masalah kegunaan dan kepercayaan sejak awal, sebelum model teknis yang akurat justru jadi tidak berguna di praktik. Sementara manajer produk menerapkan product thinking: mendefinisikan hasil yang terukur, memprioritaskan kasus penggunaan, menyelaraskan pemangku kepentingan, dan mengelola siklus hidup dari penemuan hingga operasi berkelanjutan.
Praktik konkretnya mencakup definisi masalah yang dimulai dari keputusan yang butuh dukungan, bukan dari algoritma. Riset pengguna mengamati alur kerja dan kendala nyata untuk mendesain output yang berpusat pada manusia. Prioritasisasi menilai kasus penggunaan berdasarkan nilai, kelayakan, dan risiko — teknis, hukum, dan operasional. Pengukuran dan pemantauan mendefinisikan metrik dampak seperti pengurangan waktu proses atau peningkatan akurasi dalam konteks, serta sinyal kesehatan operasional seperti data drift, latensi, dan tingkat kesalahan.
Di layanan publik, desain berpusat manusia bukan sekadar estetika. Pengguna layanan kota sering berada di bawah tekanan, waktu terbatas, atau literasi digital rendah. Design thinking memastikan output AI disertai indikator kepercayaan yang tepat, jalur tinjauan manusia, dan instruksi jelas untuk pengecualian. Hal ini mengurangi risiko operasional dan membangun kepercayaan publik. Contohnya: antarmuka yang menjelaskan mengapa rekomendasi dibuat dan cara mengajukan keberatan, alur keputusan yang menampakkan ketidakpastian model untuk peninjau manusia, dan prototipe yang mengungkap kendala hukum dan aksesibilitas sebelum pengembangan penuh.
Flamelit, perusahaan yang membantu menerapkan pendekatan ini, menerapkan pengiriman berbasis hasil. Model mereka tiga tahap: Temukan — klarifikasi keputusan, pemangku kepentingan, metrik sukses, dan kesiapan data; Bangun & Model — kembangkan prototipe, iterasi dengan pengguna, validasi performa dalam konteks; Operasionalkan — deploy dengan pemantauan, tinjauan manusia, dokumentasi, dan tata kelola. Mereka memprioritaskan kasus penggunaan berdasarkan nilai, kelayakan, dan risiko, dengan pengalaman di domain data kesehatan, layanan imigrasi, dan respons bencana.
Konteks ini sangat relevan bagi Indonesia. Pemerintah Pusat melalui Kominfo dan BRIN telah menggariskan strategi AI nasional, dan banyak kementerian mulai mencoba chatbot layanan publik atau sistem analisis data. Namun, sebagian besar masih bersifat proyek teknis semata — dikembangkan tim IT internal tanpa melibatkan desainer UX atau manajer produk yang memahami siklus hidup produk. Akibatnya, aplikasi sering ditinggal pengguna karena antarmuka membingungkan, tidak ada saluran umpan balik, dan tidak ada tim yang memantau performa model setelah peluncuran.
Beberapa inisiatif lokal sudah menunjukkan arah yang benar. Platform LAPOR! dan aplikasi SATUSEHAT mulai melibatkan riset pengguna dalam pengembangan, meskipun peran manajer produk khusus untuk AI belum terstruktur formal. Di sektor swasta, startup seperti Bukalapak dan Traveloka sudah lama memasang product manager dan desainer di tim AI mereka untuk sistem rekomendasi dan deteksi penipuan. Pelajaran dari New York: tanpa peran ini, investasi AI pemerintah berisik jadi 'proyek percobaan' yang tidak pernah skala.
Langkah selanjutnya bagi Indonesia adalah menginstitusionalisasi peran ini. Bukan hanya merekrut desainer dan PM untuk proyek tertentu, tapi menanamkan mereka dalam tim produk AI yang permanen di setiap kementerian atau instansi yang mengembangkan sistem cerdas. Program magang atau fellowship serupa PIT Crew — mungkin bernama 'Digital Talent Fellowship' — bisa menarik talenta muda ke sektor publik. Standar pengujian kegunaan dan aksesibilitas harus jadi prasyarat sebelum sistem AI dideploy, bukan tambahan di akhir.
Jangka panjang, keberhasilan AI di layanan publik tidak ditentukan oleh seberapa cerdas modelnya, tapi seberapa baik sistem itu diintegrasikan ke dalam alur kerja manusia yang menggunakannya. New York membuktikan bahwa investasi pada desain dan manajemen produk bukan biaya tambahan, tapi prasyarat agar AI benar-benar memberikan nilai bagi warga. Indonesia yang berambisi jadi kekuatan digital Asia Tenggara harus belajar dari pendekatan ini — sebelum miliaran rupiah dana pembangunan AI hanya menghasilkan model yang tertinggal di server.