Pendekatan monolistik di era awal machine learning mobile — satu model, satu prosesor, satu jalur eksekusi — telah mencapai batas fisiknya. Semakin besar model bahasa dan difusi yang masuk ke perangkat genggam, semakin jelas bahwa mengandalkan satu unit pemrosesan saja tidak lagi cukup. Google menjawab tantangan ini dengan mengubah fundamental cara Android menangani beban kerja AI: dari logika berbasis aplikasi ke layanan sistem terpusat bernama AICore.
Perubahan ini bukan sekadar pembaruan API. Ia menandai pergantian paradigma di mana sistem operasi bertanggung jawab penuh atas penjadwalan beban kerja lintas perangkat keras. Aplikasi tidak lagi perlu menanyakan apakah perangkat memiliki NPU Hexagon Qualcomm atau GPU Mali tertentu. Cukup meminta AICore untuk menjalankan inferensi, dan lapisan abstraksi itu yang memutuskan perangkat keras mana yang optimal — NPU untuk tensor terkuantisasi, GPU untuk operasi floating-point fleksibel, atau DSP untuk pra-pemrosesan sinyal real-time.
Tiga unit pemrosesan itu membentuk apa yang disebut "Trinitas Perangkat Keras". NPU unggul pada throughput deterministik dan efisiensi energi untuk beban kerja INT8 atau INT4, namun kaku saat menghadapi lapisan kustom yang tidak didukung silikon. GPU menawarkan fleksibilitas melalui shader Vulkan atau OpenCL, cocok untuk arsitektur model baru, tapi boros daya dan rentan throttling termal. DSP, yang sering terlupakan, berperan sebagai pra-pemroses data mentah dari sensor kamera atau mikrofon sebelum menyerahkan tensor ke NPU.
Hambatan terbesar bukan kecepatan komputasi, melainkan pergerakan data. Memindahkan tensor besar dari VRAM GPU ke SRAM NPU mengonsumsi waktu dan energi yang sering melebihi keuntungan percepatan perangkat keras. Solusi Android modern adalah buffer zero-copy: alih-alih menyalin data, sistem meneruskan handle ke region memori bersama. GPU dan NPU dapat mengakses data yang sama secara bersamaan, menghilangkan bottleneck transfer.
AICore juga memecahkan masalah duplikasi bobot model. Tanpa layanan sistem, setiap aplikasi yang membundel Gemini Nano atau BERT akan menumpuk salinan bobot di RAM, cepat menhabiskan memori perangkat. Dengan AICore, hanya satu salinan model yang tinggal di memori sistem. Model dapat dijaga "hangat" di VRAM atau SRAM meski aplikasi berada di latar belakang, mirip cara Android mengelola status cached Activity.
Bagi pengembang Indonesia, implikasinya luas. Mayoritas ponsel di pasar lokal menggunakan chipset mid-range yang NPU-nya terbatas atau tidak ada. AICore memungkinkan fallback ke GPU atau CPU secara transparan tanpa perlu logika kondisional di kode aplikasi. Tim pengembang aplikasi perbankan, e-commerce, atau super-app lokal kini bisa mengintegrasikan fitur AI generatif on-device tanpa khawatir fragmentasi perangkat keras.
Kotlin 2.x menjadi pendamping alami arsitektur ini. Structured concurrency dan coroutine memungkinkan tumpang tindih eksekusi: DSP membersihkan audio, NPU menjalankan inferensi, CPU menyiapkan UI — semua tanpa memblokir thread utama. Flow dan SharedFlow cocok untuk streaming token LLM, memancarkan output ke gelembung obrolan dan sintetis suara sekaligus. Context Receivers menambahkan keamanan tipe: fungsi yang butuh konteks NPU tidak bisa dipanggil sembarangan, kebutuhan perangkat keras terekspresi di tingkat tipe.
Google juga memperoleh kendali penyebaran model. Pembaruan bobot atau logika delegasi perangkat keras dikirim melalui Play Store ke AICore, tanpa pengembang harus merilis ulang aplikasi. Ini mengurangi fragmentasi versi model di ekosistem, masalah klasik yang selama ini menghantui TensorFlow Lite.
Di sisi pengguna, manfaat terasa pada responsivitas dan umur baterai. Inferensi yang sebelumnya memakan 15 hingga 20 persen daya baterai per sesi obrolan panjang kini dapat ditekan jauh lebih rendah berkat penjadwalan cerdas ke NPU yang hemat energi. Perangkat tidak lagi panas berlebihan saat menjalankan fitur ringkasan otomatis atau terjemahan real-time.
Tantangan tersisa pada ketersediaan model sistem. Saat ini Gemini Nano hanya hadir di seri Pixel dan beberapa flagship terbaru yang mendukung AICore. Produsen lain seperti Samsung, Xiaomi, atau merek lokal Indonesia harus menunggu rilis Android 14 ke atas dengan dukungan AICore penuh. Hingga itu tiba, pengembang tetap bisa memanfaatkan MediaPipe Tasks atau ONNX Runtime dengan delegasi manual, meski tanpa keuntungan shared weights dan warm-up sistem.
Jangka panjang, tren ini mendorong standarisasi lapisan abstraksi AI di seluruh OS mobile. Apple telah lama punya Core ML dengan delegasi Neural Engine. Android kini mengejar dengan AICore yang lebih terbuka — mendukung banyak penyedia model, tidak hanya milik Google. Bagi industri teknologi Indonesia, ini berarti peluang membangun fitur AI on-device yang skalabel tanpa harus mengelola kompleksitas silikon sendiri.