NhatXu

Kemkomdigi Peringatkan Risiko Deepfake dari Grok AI di X

January 14, 2026

•

NhatXu– Pemerintah menilai penyalahgunaan kecerdasan buatan telah berkembang menjadi ancaman nyata terhadap privasi dan hak citra diri masyarakat. Direktur Jenderal Pengawasan Ruang Digital Kementerian Komunikasi dan Digital, Alexander Sabar, mengungkapkan kekhawatiran serius terkait celah keamanan pada Grok AI. Berdasarkan penelusuran awal, sistem kecerdasan buatan tersebut dinilai belum memiliki filter yang cukup kuat untuk mencegah pembuatan konten pornografi berbasis foto nyata.

Isu ini dinilai tidak lagi sebatas persoalan etika penggunaan teknologi. Pemerintah memandangnya sebagai risiko sistemik yang berpotensi merugikan masyarakat luas. Manipulasi visual berbasis AI dapat terjadi secara masif dan sulit dikendalikan apabila tidak diimbangi sistem pengamanan yang memadai dari penyelenggara platform.

Pelanggaran Hak Citra Diri Jadi Fokus Pengawasan Digital

Alexander Sabar menegaskan bahwa praktik manipulasi digital seperti deepfake merupakan pelanggaran serius terhadap hak atas citra diri seseorang. Hak tersebut mencakup kendali individu atas penggunaan dan representasi visual diri mereka di ruang publik. Ketika teknologi digunakan tanpa persetujuan pemilik citra, dampaknya tidak hanya bersifat hukum, tetapi juga psikologis dan sosial.

Pemerintah menilai korban deepfake berpotensi mengalami tekanan mental, stigma sosial, hingga kerusakan reputasi yang sulit dipulihkan. Dalam konteks ini, negara berkepentingan melindungi martabat manusia dari eksploitasi teknologi. Alexander menekankan bahwa setiap Penyelenggara Sistem Elektronik wajib memastikan layanannya tidak menjadi sarana eksploitasi seksual maupun perusakan kehormatan individu.

Tanggung Jawab Penyelenggara Sistem Elektronik

Kementerian Komunikasi dan Digital menegaskan bahwa tanggung jawab perlindungan pengguna berada di tangan penyelenggara platform. Pemerintah telah mengingatkan bahwa teknologi kecerdasan buatan tidak boleh dilepas begitu saja ke publik tanpa pagar pengaman yang memadai. Moderasi konten dan sistem pencegahan harus berjalan seiring dengan inovasi teknologi.

Dalam kasus Grok AI yang terintegrasi di platform X, pemerintah menilai perlunya langkah korektif segera. Koordinasi dengan para Penyelenggara Sistem Elektronik terus dilakukan untuk memastikan kepatuhan terhadap regulasi nasional. Apabila platform tidak menunjukkan itikad baik, pemerintah siap mengambil tindakan tegas.

Ancaman Sanksi Administratif hingga Pemblokiran Layanan

Kemkomdigi menyatakan tidak akan ragu menjatuhkan sanksi apabila ditemukan pelanggaran yang berulang atau sikap tidak kooperatif dari platform terkait. Sanksi administratif menjadi tahap awal, mulai dari teguran resmi hingga pengenaan denda sesuai ketentuan hukum. Langkah ini dimaksudkan sebagai peringatan keras agar penyelenggara segera memperbaiki sistem pengamanan mereka.

Jika peringatan tersebut tidak diindahkan, pemerintah dapat melangkah lebih jauh dengan pemutusan akses layanan. Pemblokiran terhadap Grok AI hingga platform X secara keseluruhan di wilayah Indonesia disebut sebagai opsi terakhir. Kebijakan ini ditempuh demi melindungi masyarakat dari dampak negatif penyalahgunaan teknologi digital.

KUHP Baru Perkuat Dasar Hukum Penindakan Deepfake

Langkah pemerintah diperkuat dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana atau KUHP baru sejak 2 Januari 2026. Regulasi ini memberikan perlindungan lebih ketat terhadap konten pornografi dan manipulasi digital. Pasal 172 mendefinisikan pornografi sebagai media yang melanggar norma kesusilaan dan mengandung eksploitasi seksual.

Sementara itu, Pasal 407 mengatur ancaman pidana bagi pelaku manipulasi citra asusila. Sanksi yang dapat dijatuhkan mencakup pidana penjara mulai enam bulan hingga sepuluh tahun, serta denda materiil dalam jumlah signifikan. Dengan dasar hukum ini, pemerintah menegaskan komitmennya untuk menindak tegas pelanggaran privasi dan menjaga keamanan ruang digital nasional.