KILASJATIM.COM, SURABAYA – Dibalik dunia virtual penuh warna dan imajinasi yang ditawarkan Roblox, tersimpan ancaman tersembunyi yang masih luput dari pengawasan banyak pihak. Platform gim daring yang digemari anak-anak ini memang telah mengandalkan sistem Artificial Intelligence (AI) untuk memoderasi kontennya, namun efektivitasnya kini dipertanyakan.
Dalam pandangan dua akademisi Universitas 17 Agustus 1945 (Untag) Surabaya, yaitu Supangat, Ph.D., Dosen Sistem dan Teknologi Informasi, Fakultas Teknik, dan Dr. Rr. Amanda Pascarini, M.Si., Psikolog, Dosen Fakultas Psikologi, bahwa moderasi AI di Roblox masih menyisakan celah yang bisa dimanfaatkan pelaku kekerasan daring, terutama dalam bentuk grooming atau pendekatan manipulatif kepada anak-anak.
Menurut Supangat, sistem moderasi otomatis yang dimiliki Roblox hanya mampu menyaring konten-konten eksplisit seperti kata kasar atau kekerasan. Namun, AI belum cukup canggih untuk menangkap pesan-pesan manipulatif yang dibungkus dengan pendekatan emosional. “Grooming digital sering kali dilakukan dengan bahasa yang lembut, seolah bersahabat. Pelaku bisa berpura-pura menjadi teman sebaya dan membangun ketergantungan emosional dengan korban,” terang Supangat.
Ancaman ini, lanjut Supangat, tidak bisa dikenali hanya dengan logika pemblokiran kata. Sistem AI belum mampu memahami konteks dan niat, sehingga banyak interaksi berisiko lolos dari pengawasan algoritma.
Sementara itu, dari sisi psikologi, Dr. Amanda Pascarini menyoroti bahaya lain yang tak kalah serius, yaitu: rasa aman palsu. Ketika platform digital menyatakan telah dimoderasi oleh AI, anak-anak cenderung menurunkan kewaspadaan mereka. “Anak merasa aman padahal tidak. Mereka tak sadar tengah menjadi sasaran manipulasi emosional atau cyberbullying terselubung,” ungkap Amanda.
Menurut Amanda, banyak kasus kekerasan psikologis yang lolos dari deteksi AI karena dikemas dalam bentuk sindiran halus, komentar bercanda, atau pengucilan sosial. Dampaknya tidak ringan, kepercayaan diri menurun, kecemasan sosial meningkat, bahkan bisa memicu depresi pada anak.
Keduanya, Supangat dan Amanda sepakat bahwa AI tetap memiliki potensi besar untuk menciptakan ruang digital yang lebih aman. Namun, AI tidak bisa berdiri sendiri. Diperlukan pendekatan manusia yang penuh empati serta dukungan regulasi yang berpihak pada korban. “Teknologi harus didesain kontekstual dan adaptif. Tapi lebih dari itu, peran orang tua, pendidik, dan pembuat kebijakan juga sangat krusial,” tegas Supangat. Sedangkan menurut Amanda, literasi digital anak harus diarahkan pada pemahaman relasi sehat secara emosional, bukan sekadar penghindaran situs dewasa. “Anak-anak perlu dibekali keterampilan mengenali hubungan yang tidak sehat. Itu tidak bisa hanya mengandalkan mesin,” kata Amanda.
Kasus di Roblox hanyalah contoh dari tantangan moderasi di ruang digital yang semakin kompleks. Dengan pertumbuhan dunia virtual yang begitu pesat, anak-anak akan terus menjadi bagian darinya, dengan atau tanpa pengawasan. Keselamatan anak-anak, menurut Supangat dan Amanda, adalah tanggung jawab bersama. Bukan sekadar soal teknologi, tetapi soal kehadiran orang dewasa yang peduli dan siap terlibat.(tok)
