Bahaya dari menjadikan AI sebagai “pelaku” utama, bukan hanya kekeliruan logika, tetapi juga penyederhanaan persoalan. Fokus publik bergeser ke algoritma, sementara literasi digital, niat pengguna, dan desain tanggung jawab platform luput dari sorotan.
Dalam narasi semacam ini, manusia berisiko tampil sebagai korban pasif dari teknologi yang ia ciptakan sendiri. Tentu, pengembang AI tidak bisa cuci tangan. Mereka memikul tanggung jawab merancang pagar pengaman, memperkecil celah penyalahgunaan, dan merespons dampak sosial produknya.
Namun pagar teknis tidak pernah cukup untuk menggantikan satu hal yang tak bisa diotomatisasi: kebijaksanaan manusia dalam menggunakan alat. Di sinilah persoalan sesungguhnya berada. Bukan pada AI yang semakin canggih, melainkan pada kecerdasan manusia yang kadang memilih berhenti bekerja ketika alat terasa terlalu mudah.
Pagar negara
Di tengah riuh gugatan global terhadap AI, negara-negara dihadapkan pada kenyataan yang sama: menunggu seluruh masyarakat memiliki literasi digital dan kedewasaan etis yang merata adalah pekerjaan panjang, sementara risikonya sudah nyata dan mendesak.
Ketika ruang digital berubah menjadi ruang luka, negara dituntut hadir lebih cepat daripada niat baik.
Pemerintah Indonesia memilih jalur mitigasi struktural. Melalui Kementerian Komunikasi dan Digital, pemerintah pada Sabtu (10/1) melakukan pemutusan akses sementara terhadap aplikasi Grok, menyusul maraknya konten pornografi palsu berbasis kecerdasan artifisial.
Praktik deepfake seksual nonkonsensual dipandang sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.
