Meta mengumumkan bahwa orang tua di Amerika Serikat, Inggris, Australia, dan Kanada kini akan menerima notifikasi jika remaja mereka membahas bunuh diri atau melukai diri sendiri dengan chatbot Meta AI. Fitur ini mulai berlaku setelah sistem AI khusus mendeteksi percakapan berisiko, dan setiap percakapan yang terdeteksi akan ditinjau secara manual sebelum alert dikirim.
Menurut Meta, sistem baru ini merupakan perluasan dari fitur yang sudah ada, yaitu notifikasi pencarian berulang tentang bunuh diri di Instagram dan tampilan riwayat topik yang dibahas remaja dengan Meta AI selama seminggu. Selain itu, pengaturan "Limited Content" yang sebelumnya hanya membatasi konten di Instagram kini juga diterapkan pada chatbot, sehingga model AI menolak lebih banyak prompt berbahaya.
Pengumuman ini muncul di tengah meningkatnya pengawasan regulator dan orang tua terhadap cara chatbot merespons pengguna yang mengalami krisis, terutama remaja. Perusahaan teknologi kini menghadapi pertanyaan tentang tanggung jawab hukum ketika AI gagal mencegah tindakan self‑harm. Meta menyatakan telah membangun model AI khusus yang dapat mengenali referensi jelas tentang menyakiti diri sendiri.
Dalam sebuah posting blog, Meta menjelaskan, “Kami memahami betapa menyakitkannya notifikasi ini bagi orang tua.” Perusahaan menambahkan bahwa setiap chat yang terflag akan ditinjau oleh manusia. Jika niat remaja tidak jelas, perusahaan memilih untuk memberitahu orang tua sebagai langkah pencegahan, meskipun hal ini mungkin menimbulkan kekhawatiran yang tidak perlu.
Fitur notifikasi kini tersedia melalui Instagram Parental Supervision di empat negara tersebut dan akan digulirkan ke seluruh dunia sebelum akhir tahun. Selain itu, Meta juga menyiapkan mekanisme untuk menghubungi layanan darurat jika percakapan dengan AI—baik pengguna remaja maupun dewasa—menunjukkan risiko bunuh diri. Langkah ini mirip dengan yang sudah diterapkan Meta ketika pengguna memposting konten berbahaya di Facebook atau Instagram.
Bagi pasar Indonesia, perkembangan ini bisa menjadi referensi penting. Platform digital lokal seperti Gojek, Tokopedia, dan Shopee mulai mengintegrasikan asisten AI untuk melayani pengguna muda. Meskipun belum ada fitur notifikasi orang tua yang serupa, Kominfo telah mengeluarkan pedoman etika AI yang menekankan perlindungan kelompok rentan, termasuk remaja.
Di Indonesia, kesadaran akan kesehatan mental masih tumbuh, dan penggunaan media sosial oleh remaja sangat tinggi. Kehadiran sistem peringatan dini seperti yang diterapkan Meta dapat membantu orang tua yang mungkin tidak menyadari bahwa anak mereka mengalami krisis. Namun, tantangan bahasa dan konteks budaya memerlukan penyesuaian model deteksi agar relevan dengan percakapan sehari-hari di Nusantara.
Selain itu, fitur ini menimbulkan pertanyaan privasi. Notifikasi yang dikirimkan ke orang tua berarti riwayat percakapan AI menjadi terlihat oleh pihak ketiga. Di Indonesia, di mana peraturan perlindungan data masih dalam tahap pengembangan, hal ini dapat memicu perdebatan tentang keseimbangan antara keselamatan dan hak privasi remaja.
Meta juga memperluas pengaturan “Limited Content” untuk mencakup topik yang sebelumnya tidak dibatasi. Meskipun perusahaan tidak merinci daftar topik tambahan, langkah ini menunjukkan upaya untuk mengurangi paparan remaja terhadap konten berisiko, mulai dari self‑harm hingga materi yang tidak pantas. Hal ini sejalan dengan upaya global untuk membuat AI lebih aman bagi pengguna muda.
Salah satu kutipan kunci dari Meta adalah, “Kami memilih untuk memberitahu orang tua meskipun mungkin tidak ada alasan nyata untuk khawatir, karena ini adalah titik awal yang tepat.” Pernyataan ini mencerminkan pendekatan hati‑hati yang mungkin perlu ditiru oleh pengembang AI lokal saat merancang sistem deteksi risiko.
Ke depan, integrasi dengan layanan darurat dapat menjadi standar baru bagi platform AI di seluruh dunia, termasuk di Indonesia. Jika model AI dapat memicu respons darurat secara otomatis, waktu reaksi terhadap krisis dapat berkurang secara signifikan. Namun, hal ini memerlukan koordinasi dengan penyedia layanan kesehatan lokal dan regulator untuk memastikan respons yang tepat budaya dan efektif.
Tren menuju AI yang lebih bertanggung jawab tampaknya tidak dapat dihindari. Perusahaan teknologi akan semakin mempertimbangkan aspek keselamatan dalam desain produk, dan pasar seperti Indonesia akan menjadi ujian penting bagi penerapan teknologi global dengan konteks lokal. Pengguna muda, orang tua, dan pembuat kebijakan harus bekerja sama untuk membentuk ekosistem AI yang mendukung pertumbuhan tanpa mengorbankan kesejahteraan.