Apple tengah menimbang penggunaan teknologi kompresi dari PrismML guna menghadirkan model AI raksasa di perangkat seluler. Model berparameter 27 miliar tersebut direncanakan berjalan secara lokal tanpa bergantung pada server awan.
Langkah ini menjadi bagian dari upaya besar perusahaan untuk mempertahankan privasi pengguna sekaligus memangkas latensi. Pemrosesan di dalam perangkat memungkinkan fitur penalaran tingkat lanjut dan bantuan pengembangan perangkat lunak beroperasi meski tanpa koneksi internet.
Beban komputasi kecerdasan buatan selama ini ditanggung oleh pusat data raksasa milik perusahaan teknologi. Infrastruktur awan membutuhkan investasi modal yang sangat besar serta memicu kekhawatiran terkait keamanan data pribadi pengguna.
PrismML menawarkan solusi kompresi yang diklaim mampu membuat model berukuran besar menjadi jauh lebih ringan. Menurut klaim startup tersebut, model yang dikompresi berjalan enam hingga delapan kali lebih cepat dibandingkan versi standar.
Efisiensi energi juga meningkat secara signifikan, meskipun ada sedikit penurunan pada kemampuan mengingat fakta. Pembicaraan antara Apple dan PrismML masih berada pada tahap awal, namun kolaborasi ini berpotensi mengubah cara alokasi sumber daya sistem untuk kecerdasan buatan di perangkat keras konsumen.
Bagi ekosistem teknologi global, pergeseran pemrosesan AI ke perangkat tepi membawa implikasi luas. Tidak hanya terbatas pada telepon pintar, teknik kompresi ini relevan untuk lingkungan komputasi tepi lainnya seperti robotika dan sistem otonom.
Di Indonesia, tren pemindahan beban AI ke perangkat lokal akan berdampak pada kualitas layanan digital. Pengguna domestik yang kerap menghadapi konektivitas internet tidak stabil dapat menikmati fitur cerdas secara offline. Hal ini juga sejalan dengan regulasi perlindungan data pribadi yang semakin ketat di dalam negeri.
Namun, analis industri mencatat bahwa efisiensi memori per tugas tidak serta-merta menurunkan ketergantungan semikonduktor secara keseluruhan. Permintaan chip justru bergeser dari pusat data ke perangkat konsumen. Produsen ponsel di Tanah Air harus menyesuaikan spesifikasi hardware agar bisa mengakomodasi model AI lokal yang semakin berat.
Sejumlah pengamat industri menyoroti bahwa strategi kompresi model ini mengubah peta permintaan perangkat keras secara mendasar. "Teknik kompresi mengurangi kebutuhan memori per tugas, namun menggeser permintaan chip dari pusat data ke perangkat konsumen," demikian catatan para analis yang mengamati tren tersebut.
Laporan dari CNBC dan MacDailyNews sebelumnya menyebutkan Apple juga membuka peluang akuisisi terhadap PrismML. Startup yang fokus pada penciutan model AI ini menjadi incaran karena kemampuannya membawa beban komputasi besar ke dalam iPhone.
Ke depan, integrasi model 27 miliar parameter di iPhone akan menjadi standar baru bagi vendor ponsel premium. Kompetisi tidak lagi sekadar pada kecepatan prosesor, melainkan kapasitas menjalankan model bahasa besar secara mandiri.
Sementara itu, pengembang aplikasi lokal di Indonesia perlu bersiap merancang produk yang memanfaatkan API perangkat. Kemampuan AI di dalam genggaman akan membuka ruang inovasi baru, terutama untuk sektor agrikultur dan layanan publik yang minim infrastruktur awan.