Meta Platforms Akan Beri Peringatan untuk Orang Tua Soal Chatbot AI
Meta Platforms mengumumkan akan memberi peringatan kepada orang tua jika anak-anak mereka membahas topik bunuh diri atau melukai diri sendiri dengan menggunakan chatbot Meta Al. Upaya ini merupakan bagian dari komitmen perusahaan untuk melindungi remaja saat berinteraksi dengan teknologi kecerdasan buatan.
Keputusan ini diambil sebagai respons terhadap kekhawatiran regulator dan orang tua terkait cara chatbot AI menanggapi pengguna yang sedang mengalami krisis mental, terutama di kalangan remaja. Perlindungan terhadap pengguna muda akan menjadi fokus utama dalam pengembangan dan pemasaran produk AI ke depan.
Sistem Deteksi Chatbot Khusus untuk Kasus Krisis Mental Remaja
Meta mengkonfirmasi bahwa mereka telah membangun sistem kecerdasan buatan khusus untuk mendeteksi percakapan di mana seorang remaja berbicara tentang menyakiti diri sendiri. Sebelum memberi peringatan kepada orang tua, semua percakapan yang terdeteksi oleh sistem akan ditinjau secara manual oleh tim Meta.
“Kami memahami betapa pentingnya peringatan ini bagi orang tua. Karena itu, kami akan memastikan setiap percakapan yang menimbulkan kekhawatiran akan ditinjau secara manual sebelum pemberitahuan dikirim,” ujar perwakilan Meta.
Peringatan dan Fitur Keselamatan Tambahan
Peringatan terkait percakapan tentang bunuh diri atau melukai diri sendiri saat ini baru tersedia untuk orang tua yang menggunakan fitur Instagram Parental Supervision di Amerika Serikat, Inggris Raya, Australia, dan Kanada. Meta berencana meluncurkan fitur ini secara global, termasuk di Indonesia, menjelang akhir tahun.
Selain fitur peringatan, Meta juga telah mengimplementasikan sejumlah fitur keselamatan lainnya. Sebelumnya, perusahaan telah memberi peringatan kepada orang tua jika akun remaja mereka mencari kata kunci terkait bunuh diri atau melukai diri sendiri di platform Instagram. Langkah-langkah proaktif ini diharapkan dapat meningkatkan kesadaran dan keselamatan pengguna, terutama yang rentan dalam hal kesehatan mental.
