Meta meluncurkan fitur baru yang memperingatkan orang tua ketika remaja menggunakan Meta AI untuk membicarakan pikiran untuk menyakiti diri sendiri. Fitur ini mulai aktif di Amerika Serikat, Inggris, Australia, dan Kanada melalui fitur pengawasan orang tua Instagram, dan akan tersedia di seluruh dunia sebelum akhir tahun. Ketika pengguna di bawah umur membahas bunuh diri atau melukai diri sendiri, Meta AI sebelumnya sudah mengarahkan mereka ke saluran krisis dan mendorong untuk berbicara dengan orang dewasa. Sekarang, perusahaan juga akan secara proaktif memberi tahu orang tua atau wali bahwa anak mereka berisiko, disertai sumber daya dan saran tentang langkah yang dapat diambil.
Meta membangun sistem kecerdasan buatan khusus untuk mengenali percakapan seperti itu, tetapi setiap obrolan yang terdeteksi akan ditinjau secara manual oleh manusia sebelum notifikasi dikirim. Pendekatan ini bertujuan untuk mencegah kepanikan yang tidak perlu, meskipun jika maksud pengguna masih ambigu, sistem tetap mengirim pemberitahuan karena prinsip kehati‑hatian. Fitur ini merupakan bagian dari upaya Meta untuk menunjukkan kepada orang tua dan regulator bahwa platformnya aman bagi pengguna muda. Di luar notifikasi kepada orang tua, Meta juga sedang mengembangkan kemampuan untuk menghubungi layanan darurat jika percakapan dengan Meta AI menunjukkan risiko bunuh diri yang mendesak, baik bagi pengguna di bawah umur maupun dewasa.
Langkah Meta ini muncul setelah OpenAI meluncurkan Trusted Contact untuk ChatGPT pada Mei lalu, yang memungkinkan pengguna menunjuk teman yang dapat dihubungi oleh perusahaan jika mereka berisiko menyakiti diri sendiri. Selain itu, pengaturan Konten Terbatas di Instagram kini juga berlaku untuk interaksi Meta AI, sehingga konten sensitif seperti gambar dewasa dan pembahasan tentang melukai diri sendiri akan disaring secara otomatis.
Di Indonesia, platform seperti Instagram, TikTok, dan Snapchat sudah menjadi media utama bagi remaja dalam mengekspresikan diri dan mencari dukungan sebaya. Kementerian Kesehatan telah menyediakan layanan konseling daring dan hotline 24 jam untuk pencegahan bunuh diri, namun fitur pengawasan oleh orang tua masih terbatas. Beberapa platform lokal seperti Gojek dan Tokopedia mulai mengadopsi fitur kesejahteraan digital, namun integrasi dengan AI untuk deteksi dini masih jarang ditemukan.
Bagi keluarga Indonesia, fitur baru Meta dapat menjadi alat tambahan untuk memantau kesehatan mental anak tanpa harus mengorbankan privasi sepenuhnya. Namun, kekhawatiran tentang penyalahgunaan data dan notifikasi yang berlebihan tetap perlu diatasi melalui transparansi dan pendidikan literasi digital bagi orang tua dan remaja. Ke depannya, diharapkan fitur serupa dapat disesuaikan dengan nomor darurat lokal dan bekerja sama dengan penyedia layanan konseling di Indonesia.
"Kami membangun sistem deteksi yang cermat dan selalu melakukan peninjauan manual sebelum mengirim pemberitahuan kepada orang tua," kata seorang perwakilan Meta tentang pendekatan kehati‑hatian mereka. Ini menunjukkan keseimbangan antara perlindungan dan privasi yang mungkin menjadi perdebatan di masyarakat yang peduli privasi.
Dengan semakin banyaknya regulator yang menuntut platform untuk bertanggung jawab atas kesejahteraan pengguna muda, langkah Meta kemungkinan akan memicu adopsi standar keselamatan AI yang serupa di seluruh industri. Di Indonesia, hal ini dapat mendorong pemerintah dan Kominfo untuk merumuskan pedoman yang lebih konkret tentang penggunaan AI dalam konteks kesehatan mental remaja. Perusahaan teknologi lokal pun mungkin terdorong untuk berinvestasi pada sistem deteksi yang etis dan disesuaikan dengan konteks budaya setempat.
Secara keseluruhan, inisiatif Meta menandai pergeseran dari reaksi ke proaktif dalam menangani risiko kesehatan mental daring. Bagi pasar sebesar Indonesia, di mana penetrasi internet mencapai lebih dari 70 % dan pengguna remaja sangat aktif, fitur seperti ini dapat menjadi acuan bagi pengembangan teknologi yang bertanggung jawab dan berorientasi pada kesejahteraan.
Jika Anda atau seseorang yang Anda kenal mengalami pikiran untuk bunuh diri, silakan hubungi layanan bantuan seperti Hotline 1‑800‑273‑8255 (nasional) atau layanan konseling daring yang disediakan oleh Kementerian Kesehatan Republik Indonesia.