Pemblokiran Grok Momentum Tegaskan Etika AI dan Perlindungan Akhlak Bangsa

Jakarta, MUI Digital — Langkah Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara fitur kecerdasan buatan Grok yang terintegrasi di platform X dinilai sebagai momentum penting untuk menegaskan etika kecerdasan buatan dan perlindungan akhlak bangsa di ruang digital.

Wakil Ketua Bidang Riset Digital Komisi Infokomdigi Majelis Ulama Indonesia (MUI), Ismail Fahmi PhD, menjelaskan pemblokiran tersebut dipicu oleh temuan penyalahgunaan fitur image generator Grok untuk memproduksi konten pornografi deepfake dengan menggunakan wajah warga negara Indonesia tanpa izin.

“Teknologi deepfake pornografi ini secara langsung menyerang kehormatan manusia. Wajah seseorang direkayasa dalam konten asusila yang sama sekali tidak pernah dia lakukan,” ujar Ismail kepada MUI Digital, Rabu (28/1/2026).

Dia menambahkan, dari hasil pemantauan riset digital, Grok dinilai memiliki pagar pengaman (safety guardrails) yang lemah dibandingkan teknologi AI generatif lainnya, sehingga membuka ruang luas bagi produksi konten terlarang.

Dalam kajian Komisi Infokomdigi MUI, kasus tersebut dianalisis menggunakan pendekatan maqashid syariah, khususnya prinsip hifz al-‘ird atau perlindungan kehormatan manusia.

“Islam menempatkan kehormatan sebagai hal yang wajib dijaga. Pornografi deepfake adalah bentuk fitnah visual yang merusak martabat seseorang dan bertentangan dengan nilai-nilai syariat,” jelas ia.

Selain itu, Ismail Fahmi menegaskan relevansi kaidah fikih dar’ul mafasid muqaddam ‘ala jalbil mashalih, yakni mencegah kerusakan harus didahulukan daripada mengambil kemanfaatan.

“Walaupun AI membawa manfaat besar, ketika fitur tertentu justru melahirkan kerusakan moral yang masif, maka pembatasan bahkan pemblokiran menjadi langkah yang dibenarkan secara syariat,” tegasnya.

Ia juga merujuk pada Fatwa MUI Nomor 24 Tahun 2017 tentang pedoman bermuamalah di media sosial, yang mengharamkan produksi dan penyebaran konten pornografi serta informasi palsu.

Dalam konteks ini, kata Ismail, AI dipandang sebagai wasilah yang tidak boleh digunakan untuk perbuatan haram.

Ismail Fahmi menilai peluncuran teknologi tanpa moderasi yang memadai merupakan bentuk kelalaian etis (ethical negligence). Menurutnya, pengembang AI tidak bisa lepas tangan dari dampak sosial dan moral yang ditimbulkan oleh produknya.

“Kebebasan berekspresi tidak boleh melanggar hak asasi manusia, termasuk hak untuk tidak dieksploitasi secara seksual melalui teknologi,” ujarnya.

Berdasarkan hasil riset tersebut, Komisi Infokomdigi MUI merekomendasikan agar MUI memberikan dukungan terukur terhadap langkah Komdigi dalam memblokir Grok AI sebagai bentuk kehadiran negara melindungi moral dan kehormatan masyarakat.

Namun demikian, Ismail Fahmi menegaskan pentingnya konsistensi penegakan kebijakan, khususnya terhadap konten Judi Online yang juga masif di ruang digital.

“Jika pemblokiran bisa dilakukan terhadap fitur AI karena pornografi, maka ketegasan yang sama juga harus diterapkan terhadap platform dan fitur yang memfasilitasi judi online. Ini penting untuk menjaga kepercayaan publik,” ujarnya.

Selain itu, MUI juga didorong untuk memperkuat literasi digital umat, termasuk pemahaman bahwa penggunaan AI untuk membuat konten palsu, aib, dan manipulatif hukumnya haram, serta pentingnya tabayyun visual di tengah maraknya rekayasa gambar dan video.

“Teknologi harus tunduk pada nilai kemanusiaan dan Ketuhanan, bukan sebaliknya. Ini menjadi tantangan etika AI yang harus kita jawab bersama,” katanya. (Miftahul Jannah, ed: Nashih)