Bareskrim Polri menanggapi terkait fenomena manipulasi foto seseorang menjadi konten vulgar dengan fitur kecerdasan buatan, Grok AI pada platform media sosial X. Disebutkan, jika pengeditan foto itu terbukti tanpa izin pemiliknya, maka tindakan tersebut dapat dipidana.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji menjelaskan tindakan pengeditan foto itu merupakan bentuk pidana berupa deepfake. Dia menyebut fenomena tersebut sudah diawasi.
"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI," kata Himawan menjawab pertanyaan wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
SCROLL TO CONTINUE WITH CONTENT
"Karena itu memang kita sedang melakukan penyelidikan ke arah sana," lanjutnya.
Karena itu, Himawan menyatakan jika terbukti ada manipulasi data elektronik oleh orang lain tanpa persetujuan pemiliknya, tindakan itu dapat diproses pidana.
"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," imbuhnya.
Diberitakan sebelumnya, Komdigi resmi mengambil langkah tegas terhadap platform X (sebelumnya Twitter) terkait dugaan penyalahgunaan fitur kecerdasan buatan, Grok AI. Teknologi tersebut disinyalir menjadi sarana produksi dan penyebaran konten asusila melalui manipulasi foto pribadi (deepfake) tanpa izin.
Dilansir detikInet, Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa temuan awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai. Fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi," ujar Alexander di Jakarta, dalam keterangan resmi Rabu (7/1/2026).
Indonesia bukan yang pertama kali menggugat X terkait persoalan Grok AI. Sebelumnya sudah ada Prancis, India, dan Malaysia yang mempersoalkan hal tersebut ke perusahaan milik Elon Musk tersebut.
(ond/isa)
