Dari Foto Biasa Jadi Konten Seksual, MUI Soroti Penyalahgunaan AI di Kalangan Anak
Dari Foto Biasa Jadi Konten Seksual, MUI Soroti Penyalahgunaan AI di Kalangan Anak
Jakarta, MUI Digital - Fenomena anak sekolah yang memotret temannya kemudian memanipulasi foto tersebut menggunakan teknologi kecerdasan buatan (AI) hingga menjadi konten seksual menjadi perhatian Dr Siti Ma’rifah.
Ketua MUI Bidang Perempuan, Remaja, dan Keluarga (PRK) MUI itu menilai penggunaan teknologi untuk merekayasa foto seseorang perlu diantisipasi, baik melalui penguatan regulasi maupun pemahaman mengenai etika dan adab dalam ruang digital.
Menurutnya, penggunaan teknologi untuk memanipulasi foto seseorang hingga merugikan pihak lain merupakan bentuk penyalahgunaan teknologi yang perlu diantisipasi, baik dari sisi regulasi maupun pembentukan karakter dan adab anak di era digital.
“Ini kan artinya sudah memanipulasi. Ada rekayasa," ujar Siti Ma’rifah saat ditemui dalam kegiatan Seminar Penguatan Institusi Pendidikan yang Ramah Anak di Kementerian PPPA, Jakarta, Rabu (30/9/2026).
Oleh karena itu, pihaknya akan membahas secara khusus bagaimana digital secara Islami atau bagaimana digital yang ramah pada anak, serta apa saja yang harus diperkuat dalam menghadapi era digital ini pada 24 Oktober.
Ia menjelaskan, penggunaan data atau materi milik orang lain secara paksa dan kemudian menimbulkan kerugian bagi pihak tersebut dapat masuk ke ranah pelanggaran hukum.
Karena itu, menurutnya, diperlukan penerapan sanksi terhadap pelanggaran yang terjadi agar kasus serupa tidak terus berulang.
Dia menyebut jika sudah masuk aspek ranahnya, bisa juga masuk sebagai pelanggaran terhadap Undang-Undang ITE. Kalau misalnya data itu diambil secara paksa kemudian merugikan pihak lain, ini sudah merupakan pelanggaran terhadap undang-undang.
Ia menekankan, perkembangan teknologi digital perlu diiringi dengan pemahaman terhadap regulasi yang berlaku.
Masyarakat, termasuk anak-anak dan lingkungan pendidikan, perlu memahami batasan serta aturan yang harus ditaati dalam menggunakan teknologi dan media sosial.
“Harus ada sanksi terhadap pelanggar ini agar tidak terus terulang. Di era medsos ini, kita sudah memiliki undang-undang dan peraturan yang harus ditaati,” tuturnya.
Selain dari sisi regulasi, ia mengatakan pembahasan mengenai penggunaan teknologi juga perlu diperkuat dari perspektif nilai dan ajaran Islam. Hal tersebut akan menjadi salah satu materi yang dibahas dalam rangkaian kegiatan literasi digital yang disiapkan KPRK pada 24 Oktober mendatang.
“Dari sisi regulasi maupun dari soal adab, secara prinsip-prinsip ajaran Islam juga akan kita simulasikan,” tutur dia.