Meta meluncurkan fitur baru yang memberi tahu orangtua ketika remaja menggunakan Meta AI membahas autoharm atau pikiran bunuh diri. Fitur ini mulai aktif untuk pengguna Instagram yang mengikuti program pengawasan orangtua di Amerika Serikat, Inggris, Australia, dan Kanada, serta akan tersedia di seluruh dunia sebelum akhir tahun.
Sistem ini bekerja dengan cara mendeteksi percakapan yang mengandung kata kunci terkait autoharm. Ketika AI mendeteksi hal tersebut, Meta AI akan mengarahkan pengguna ke layanan bantuan krisis dan mendorong mereka untuk berbicara dengan orang dewasa. Mulai hari ini, perusahaan juga akan secara proaktif mengirim pemberitahuan kepada orangtua atau wali yang bertanggung jawab, disertai sumber daya dan saran tentang langkah yang bisa diambil. Sebelum pemberitahuan dikirim, Meta melakukan peninjauan manual atas semua percakapan yang ditandai oleh AI untuk menghindari false alarm. Namun, perusahaan menerapkan prinsip kehati‑hatian dan tetap mengirim notifikasi meskipun maksud remaja tersebut masih ambigu menurut peninjau manusia.
Kebijakan baru ini merupakan respons terhadap tekanan yang semakin besar dari regulator dan kelompok advokasi agar platform menjamin keamanan pengguna muda. Meta berupaya menunjukkan kepada orangtua dan pihak berwenang bahwa layanannya aman untuk diakses remaja. Perusahaan juga sedang mengembangkan kemampuan untuk menghubungi layanan darurat jika percakapan dengan Meta AI menunjukkan risiko bunuh diri yang mendesak, baik bagi pengguna di bawah umur maupun dewasa.
Inisiatif Meta ini muncul di tengah tren industri yang serupa. OpenAI pada Mei lalu meluncurkan Trusted Contact untuk ChatGPT, yang memungkinkan pengguna menunjuk teman yang bisa dihubungi perusahaan jika mereka terancam menyakiti diri sendiri. Sementara itu, Meta memperluas pengaturan Limited Content sehingga interaksi AI anak juga difilter dari topik sensitif seperti autoharm.
Di Indonesia, Meta memiliki jutaan pengguna remaja yang aktif di Instagram dan WhatsApp. Layanan bantuan krisis seperti Lifeline 119 atau layanan daring yang disediakan Kementerian Kesehatan masih kurang dikenal di kalangan remaja, sehingga fitur alert orangtua dari Meta bisa menjadi pelengkap penting. Platform lokal seperti TikTok dan YouTube sudah memiliki fitur pengawasan orangtua, tetapi belum memiliki sistem deteksi AI yang proaktif seperti yang dikembangkan Meta.
Kementerian Komunikasi dan Informatika telah mengeluarkan pedoman keamanan digital yang mendorong perusahaan teknologi menerapkan fitur perlindungan remaja. Kebijakan ini sejalan dengan upaya Meta untuk memenuhi standar global, tetapi implementasinya di Indonesia memerlukan adaptasi terhadap konteks budaya dan bahasa. Perusahaan lokal seperti Gojek dan Tokopedia juga mulai mempertimbangkan integrasi sistem deteksi bahaya psikologis dalam layanan konsumen mereka.
"Keamanan remaja adalah prioritas utama bagi kami," kata seorang juru bicara Meta. "Kami membangun sistem AI khusus yang dapat mengenali tanda‑tanda bahaya, sambil tetap menjaga privasi dan memberikan dukungan yang tepat bagi pengguna dan keluarga mereka."
Bagi orangtua, fitur ini memberikan ketenangan pikiran sekaligus tanggung jawab baru. Mereka kini memiliki alat untuk bertindak cepat sebelum situasi memburuk, tetapi juga harus mempertimbangkan keseimbangan antara pengawasan dan privasi anak. Di sisi lain, remaja mungkin merasa waswas bahwa setiap percakapan diawasi, sehingga bisa memengaruhi kebebasan berekspresi.
Ke depan, peluncuran global fitur ini pada akhir tahun akan membuka peluang bagi integrasi yang lebih luas dengan layanan darurat lokal di berbagai negara, termasuk Indonesia. Kolaborasi dengan rumah sakit dan lembaga kesehatan mental setempat dapat mempercepat respons krisis. Selain itu, pengembangan AI yang lebih canggih diharapkan dapat mengenali nuansa percakapan tanpa mengorbankan akurasi, sehingga mengurangi false positive dan false negative.
Jika Anda atau seseorang yang dikenal menunjukkan tanda-tanda pikiran bunuh diri, segera hubungi layanan bantuan seperti Lifeline 119, atau kunjungi situs web Kementerian Kesehatan untuk mendapatkan dukungan profesional. Fitur baru Meta ini merupakan langkah maju dalam memanfaatkan AI untuk melindungi remaja, tetapi dukungan manusia dan akses ke sumber daya lokal tetap menjadi kunci dalam mencegah tragedi.