Kementerian Komunikasi dan Digital sedang menyiapkan regulasi kecerdasan buatan atau artificial intelligence (AI) melalui Peraturan Presiden (Perpres) tentang AI. Aturan tersebut kini telah memasuki tahap finalisasi dan kini tinggal menunggu tanda tangan Presiden. (Kompas, 4 September 2026).
Pada saat hampir bersamaan, DPR mengingatkan bahwa Pancasila harus menjadi kompas moral dalam menghadapi AI dan algoritma digital. Seruan ini penting karena teknologi tidak lagi hanya membantu manusia mencari informasi. Teknologi AI mulai ikut menentukan informasi apa yang dilihat, dipercayai, bahkan dibenci oleh manusia.
Niat pemerintah yang segera merampungkan regulasi patut diapresiasi. Setidaknya, negara mulai menyadari bahwa AI bukan sekadar aplikasi untuk membuat tulisan, menggambar poster, atau membantu mahasiswa menyelesaikan tugas lima belas menit sebelum batas pengumpulan.
AI adalah kekuatan sosial baru. AI masuk ke sekolah, kampus, ruang redaksi, rumah sakit, perbankan, industri, pengadilan, hingga meja birokrasi. AI bukan lagi sekadar alat di tangan manusia, tetapi sebuah sistem yang perlahan membentuk cara manusia bekerja dan mengambil keputusan.
Indonesia tidak boleh mengulangi pengalaman menghadapi media sosial. Teknologi dibiarkan tumbuh cepat, merambah hampir seluruh kehidupan, mengumpulkan data pribadi, menyebarkan disinformasi dan memperuncing polarisasi. Setelah kerusakan muncul, negara baru datang membawa peraturan.
Kita sering membiarkan teknologi tumbuh seperti pohon liar. Setelah akarnya merusak lantai, cabangnya menimpa atap, dan buahnya jatuh mengenai kepala orang, barulah diadakan rapat untuk menentukan siapa yang harus membawa gergaji.
Pola serupa akan jauh lebih berbahaya jika terjadi pada perkembangan AI ini. Media sosial memengaruhi apa yang terlihat publik. AI berpotensi menentukan apa yang kita pikirkan, kerjakan, dan putuskan.
Sosiolog dan filsuf Prancis Jacques Ellul memberikan kerangka penting untuk membaca keadaan ini melalui teori otonomi teknologi. Dalam The Technological Society, Ellul menjelaskan bahwa teknologi memiliki kecenderungan berkembang mengikuti logikanya sendiri; efisiensi, kecepatan, standardisasi, dan optimalisasi.
Ketika dibiarkan, teknologi tidak lagi hanya untuk melayani kebutuhan masyarakat. Sebaliknya, masyarakatlah yang menyesuaikan pendidikan, pekerjaan, birokrasi, bahkan nilai hidupnya dengan tuntutan sistem teknologi.
Teori Ellul terasa semakin nyata hari ini. Awalnya kita menggunakan AI agar pekerjaan menjadi lebih cepat. Lama-kelamaan, kecepatan mesin menjadi standar untuk mengukur manusia. Pegawai dianggap lambat, guru dinilai tidak efisien, jurnalis dianggap tidak produktif, dan mahasiswa dianggap tertinggal apabila tidak mengikuti irama algoritma.
Manusia menciptakan teknologi untuk menghemat waktu. Anehnya, setelah teknologinya semakin canggih, manusia justru merasa tidak pernah memiliki cukup waktu.
Karena itu, regulasi AI tidak boleh dimulai dari pertanyaan, “Apa yang harus dilarang?” Pertanyaan pertamanya harus lebih mendasar, “Hak manusia apa yang harus dilindungi?”
Jika AI digunakan untuk menentukan penerima bantuan sosial, rakyat berhak mengetahui mengapa dirinya ditolak. Jika AI dipakai menilai kelayakan kredit, seseorang berhak memahami dasar penilaiannya. Jika algoritma digunakan dalam penerimaan siswa, mahasiswa, atau pegawai, masyarakat berhak memastikan sistem tersebut tidak diskriminatif.
Jangan sampai keputusan yang menentukan masa depan seseorang hanya dijawab dengan kalimat, “Maaf, itu hasil sistem.”
Sistem tidak pernah boleh menjadi tempat manusia menyembunyikan tanggung jawab. Algoritma dibuat manusia, dilatih dengan data yang dipilih manusia, dioperasikan oleh manusia, dan menghasilkan konsekuensi bagi manusia.
Dalam pendidikan, AI dapat menjadi asisten belajar yang luar biasa. AI membantu mahasiswa menerjemahkan referensi, menganalisis data, memahami teori, dan menemukan hubungan antargagasan.
Namun, AI juga dapat melahirkan generasi yang tampak pintar karena jawabannya sempurna, tetapi kebingungan ketika ditanya bagaimana ia memperoleh jawaban tersebut. Kita bisa memiliki mahasiswa dengan makalah sangat akademis, sementara penulisnya sendiri belum selesai membaca judulnya.
Pendidikan bukan pabrik jawaban. Pendidikan adalah proses membentuk akal, adab, integritas, dan tanggung jawab.
Dalam tradisi keilmuan Islam, ilmu tidak pernah dipisahkan dari adab. Kecerdasan bukan hanya kemampuan mengetahui sesuatu, tetapi juga kebijaksanaan menentukan untuk apa pengetahuan digunakan dan kepada siapa ia memberikan kemaslahatan.
AI mungkin dapat mengolah jutaan buku dalam hitungan detik. Namun, AI tidak menanggung dosa ketika hasilnya digunakan untuk menipu, memfitnah, atau merampas hak orang lain. Manusialah yang tetap memikul tanggung jawab moralnya.
Di dunia kerja, AI menjanjikan efisiensi. Akan tetapi, efisiensi tidak boleh menjadi nama baru bagi penyingkiran manusia. Jika keuntungan teknologi hanya dinikmati pemilik modal, sedangkan pekerja kehilangan pekerjaan tanpa perlindungan dan peningkatan keterampilan, AI justru memperbesar ketimpangan.
Teknologinya mungkin semakin pintar, tetapi keadilannya semakin bodoh.
Dalam dunia media, ancamannya lebih pelik. AI mampu menghasilkan teks, suara, foto, dan video yang semakin sulit dibedakan dari kenyataan. Kebenaran kini tidak hanya berhadapan dengan kebohongan, tetapi dengan kebohongan yang mempunyai wajah, suara, dan gerak tubuh menyerupai fakta.
AI boleh membantu ruang redaksi, tetapi tidak boleh menggantikan nurani jurnalistik. Mesin dapat menemukan pola, tetapi manusia harus memahami konteks. Mesin dapat menyusun kalimat, tetapi manusialah yang wajib mempertimbangkan akibatnya.
Di sinilah Pancasila harus diterjemahkan menjadi ukuran operasional, bukan sekadar dicantumkan dalam halaman pembuka regulasi. Kemanusiaan berarti AI tidak boleh merendahkan martabat manusia. Persatuan berarti algoritma tidak boleh memperoleh keuntungan dari kebencian dan perpecahan.
Kerakyatan berarti keputusan berbasis AI harus dapat dijelaskan, diperdebatkan, dan dikoreksi. Keadilan sosial berarti manfaat teknologi tidak boleh hanya dinikmati orang yang memiliki perangkat terbaik, modal terbesar, dan data terbanyak.
Indonesia membutuhkan regulasi berbasis hak, risiko, transparansi, dan pertanggungjawaban. Sistem AI berisiko tinggi dalam pendidikan, kesehatan, ketenagakerjaan, bantuan sosial, penegakan hukum, dan pelayanan publik harus dapat diaudit secara independen.
Masyarakat berhak mengetahui ketika sedang berhadapan dengan mesin. Mereka harus dapat menolak keputusan otomatis, meminta penjelasan, memperbaiki data, serta memperoleh pemulihan ketika dirugikan.
Namun, kita tidak perlu memusuhi AI. Yang harus dicegah adalah penyerahan nasib manusia sepenuhnya kepada logika mesin dan kepentingan pasar. Sebab, persoalan terbesar AI bukan apakah mesin kelak lebih cerdas daripada manusia. Persoalannya adalah apakah manusia masih cukup bijaksana ketika memiliki mesin yang begitu cerdas.
Karena itu, kita harus mengatur AI sebelum AI mengatur kita. Bukan karena takut kepada masa depan, tetapi karena bertanggung jawab memastikan masa depan tetap memiliki akal, adab, keadilan, dan wajah manusia.
*Penulis adalah Pengajar Media Technology Fakultas Humaniora UIN Maliki Malang, Ketua Komisi Komdigi MUI Jawa Timur
