Milenianews.com, Jakarta – Perkembangan teknologi kecerdasan buatan yang makin canggih ternyata tidak selalu berbanding lurus dengan rasa aman. Belakangan ini, AI Grok, chatbot berbasis kecerdasan buatan yang terintegrasi dengan platform X, ramai diperbincangkan setelah disorot karena disalahgunakan untuk membuat konten manipulatif, khususnya gambar deepfake bernuansa seksual. Isu ini pun langsung menyulut reaksi keras dari berbagai negara.
Baca juga: Chatbot Grok AI Kini Dapat Akses Kamera Secara “Real-time”
Grok disebut-sebut mampu mengedit dan memodifikasi foto orang nyata menjadi gambar eksplisit tanpa persetujuan. Praktik ini bukan hanya soal etika, tetapi juga menyentuh ranah hukum karena berpotensi melanggar privasi dan merugikan korban, terutama perempuan dan anak-anak. Di tengah maraknya penggunaan AI untuk kebutuhan kreatif, kasus ini menunjukkan sisi gelap teknologi yang bisa disalahgunakan jika tidak diawasi dengan ketat.
Pemerintah Inggris menyebut praktik deepfake sebagai tindakan menjijikkan
Pemerintah Inggris menjadi salah satu pihak yang paling vokal menanggapi persoalan ini. Perdana Menteri Inggris secara terbuka mengecam penggunaan AI untuk membuat deepfake seksual dan menyebut praktik tersebut sebagai sesuatu yang “memalukan dan menjijikkan.” Ia menegaskan bahwa pemerintah akan mengambil tindakan untuk melindungi masyarakat dari konten ilegal berbasis AI, Selasa (8/1). Pernyataan ini menandakan keseriusan negara tersebut dalam menegakkan keamanan ruang digital.
Sorotan serupa juga datang dari Uni Eropa. Otoritas setempat memerintahkan perusahaan X untuk menyimpan seluruh dokumen internal yang berkaitan dengan Grok hingga akhir 2026. Kebijakan ini dilakukan untuk memastikan adanya transparansi dan memudahkan proses pengawasan terhadap potensi risiko yang ditimbulkan oleh teknologi AI. Dalam pernyataan resminya, pihak Komisi Eropa menegaskan bahwa langkah tersebut diambil demi menjaga akuntabilitas platform digital terhadap dampak sistemik yang mungkin muncul.
Tak hanya di Eropa, tekanan juga muncul dari kawasan Asia. Pemerintah India menilai respons awal pengembang Grok masih belum memadai. Melalui pernyataan resmi, Kementerian Teknologi Informasi India meminta adanya rencana aksi yang jelas dan konkret untuk mencegah penyalahgunaan AI. Mereka menekankan bahwa setiap platform digital bertanggung jawab memastikan teknologi yang dirilis tidak membahayakan publik, Senin (7/1).
Indonesia menegaskan manipulasi konten asusila bisa dipidana
Di Indonesia, isu Grok turut menjadi perhatian serius. Aparat penegak hukum menegaskan bahwa manipulasi foto menjadi konten asusila tanpa izin pemiliknya dapat dikenakan sanksi pidana. Dalam keterangan resminya, pihak kepolisian menyatakan bahwa penyalahgunaan AI untuk tujuan tersebut berpotensi melanggar hukum dan akan diproses sesuai peraturan yang berlaku, Selasa (8/1). Pemerintah juga membuka peluang penindakan administratif terhadap platform yang dinilai lalai mengendalikan konten berbahaya.
Baca juga: xAI Elon Musk Umumkan Grok 3, Model AI Terbaru
Kontroversi Grok menjadi cerminan tantangan besar di era AI generatif. Di satu sisi, teknologi ini menawarkan kemudahan dan inovasi, tetapi di sisi lain menghadirkan risiko baru jika digunakan tanpa batasan yang jelas. Kasus ini sekaligus menjadi pengingat bahwa kemajuan teknologi harus dibarengi dengan regulasi yang kuat dan tanggung jawab moral dari pengembang maupun pengguna.
Dengan sorotan global yang terus menguat, masa depan Grok kini berada di bawah pengawasan ketat publik dan regulator. Penguatan sistem keamanan, penyempurnaan filter konten, serta kepatuhan terhadap hukum menjadi langkah krusial agar AI tetap menjadi solusi, bukan justru sumber masalah di ruang digital.
Tonton podcast Milenianews yang menghadirkan bintang tamu beragam dari Sobat Milenia dengan cerita yang menghibur, inspiratif serta gaul hanya di youtube Milenianews.
