Wamenkomdigi Kendali Manusia Jadi Standar Utama Tata Kelola AI

Oleh VOXBLICK

Rabu, 01 April 2026 - 12.15 WIB

Wamenkomdigi Kendali Manusia Jadi Standar Utama Tata Kelola AI

Kendali manusia untuk AI (Foto oleh Markus Winkler)

VOXBLICK.COM - Wamenkomdigi kembali menegaskan arah kebijakan tata kelola AI Indonesia: kendali manusia (human control) harus menjadi standar utama. Pernyataan ini bukan sekadar slogan kebijakania akan menentukan bagaimana AI dipakai di layanan publik, sektor swasta, hingga ekosistem pengembangan teknologi. Kalau kamu sedang terlibat dalam proyek AI, mengelola produk berbasis data, atau sekadar ingin memahami “arah angin” regulasi, artikel ini akan membantumu melihat prinsipnya secara jelas dan mengubahnya menjadi langkah yang bisa langsung kamu terapkan.

Dalam praktiknya, kendali manusia berarti AI boleh membantu pengambilan keputusan, tetapi manusia tetap memegang wewenang akhir: mengatur batas penggunaan, memverifikasi hasil, meninjau risiko, serta memastikan ada jalur koreksi saat sistem keliru.

Artinya, tata kelola AI tidak berhenti di “model yang akurat”, melainkan juga mencakup akuntabilitas, transparansi, dan keselamatan. Nah, untuk menangkap gambaran besarnya, mari kita lihat konteks kebijakan, prinsip etika, dan langkah praktis yang relevan.

Apa maksud “kendali manusia” dalam tata kelola AI?

Kendali manusia bukan berarti AI dilarang berperan. Yang ditekankan adalah manusia tidak boleh “menghilang” dari rantai keputusan. Ada beberapa elemen yang biasanya masuk ke konsep ini:

Human-in-the-loop: manusia terlibat pada titik tertentu untuk memvalidasi, menyetujui, atau mengoreksi hasil AI.
Human-on-the-loop: manusia memantau dan bisa mengambil alih saat sistem menunjukkan sinyal risiko.
Human-out-of-the-loop (dibatasi): penggunaan AI tanpa intervensi manusia hanya untuk konteks yang risikonya rendah dan tetap memiliki mekanisme fallback.
Wewenang akhir di tangan manusia: keputusan final, terutama yang berdampak besar pada individu, harus bisa dipertanggungjawabkan oleh manusia.

Kalau kamu perhatikan, kendali manusia juga berkaitan dengan “siapa yang bertanggung jawab” saat terjadi kesalahan.

Misalnya, ketika AI salah mengklasifikasi permohonan bantuan sosial, sistem tidak boleh hanya “salah model”harus ada proses peninjauan yang jelas, termasuk siapa yang memutuskan langkah perbaikan.

Alasan utamanya biasanya bersinggungan dengan beberapa tantangan klasik AI: bias, interpretabilitas rendah, potensi disinformasi, serta dampak tak langsung yang sulit diprediksi.

Ketika AI dipakai secara luas, dampak kesalahan bisa makin besar dan menyebar cepat. Karena itu, kebijakan mendorong tata kelola AI agar:

Risiko bisa dikendalikan sejak desain sampai operasi (bukan hanya dicek setelah kejadian).
Akuntabilitas tetap jelasada manusia yang bisa dimintai pertanggungjawaban.
Hak pengguna terlindungi, termasuk hak untuk koreksi dan penjelasan yang memadai.
Keputusan penting tidak “otomatis total” tanpa pengawasan.

Secara praktis, standar ini juga membantu organisasi menyusun “batas penggunaan AI”.

Kamu bisa membedakan mana proses yang boleh diotomatisasi penuh, mana yang harus punya verifikator manusia, dan mana yang sebaiknya tidak dipakai untuk keputusan sensitif.

Kalau kendali manusia menjadi standar utama, maka prinsip etika yang menyertainya cenderung mencakup hal-hal berikut. Kamu bisa memakainya sebagai checklist saat merancang atau mengevaluasi sistem AI.

Fairness (keadilan): AI tidak boleh memperkuat diskriminasi. Perlu pengujian bias pada kelompok data yang relevan.
Transparansi: jelaskan bahwa AI terlibat, informasi apa yang digunakan, dan bagaimana keputusan dihasilkan pada level yang sesuai.
Akuntabilitas: tentukan peran manusiasiapa reviewer, siapa approver, dan siapa yang bertanggung jawab akhir.
Keamanan & keselamatan: mitigasi risiko kegagalan sistem, termasuk skenario ketika model “ngaco” atau drift.
Privasi: perlindungan data pribadi, minimisasi data, dan kontrol akses.
Human dignity: keputusan AI tidak boleh merendahkan martabat pengguna harus ada jalur banding/koreksi.

Yang menarik, semua prinsip ini sebenarnya bisa diterjemahkan menjadi proses operasional. Jadi bukan hanya “nilai moral”, tetapi juga prosedur: siapa melakukan apa, kapan, dan bagaimana bukti kepatuhan disimpan.

Kalau kamu bekerja di perusahaan, instansi, atau tim produk, kendali manusia sebagai standar utama tata kelola AI berarti kamu perlu mempersiapkan beberapa fondasi.

Anggap saja ini sebagai “kerangka kerja” supaya implementasi AI lebih aman dan bertanggung jawab.

1) Petakan penggunaan AI: keputusan apa yang dibuat?

Mulailah dari inventaris. Tanyakan: AI hanya memberi rekomendasi, atau benar-benar memutuskan? Dampak keputusan itu ke pengguna seperti apa?

Gunakan kategori dampak: rendah, menengah, tinggi.
Untuk dampak tinggi, wajib ada human approval dan prosedur banding.
Pastikan ada definisi “kesalahan” dan bagaimana koreksinya dilakukan.

2) Tetapkan mekanisme intervensi manusia (control points)

Jangan menunggu masalah muncul. Tentukan titik intervensi dari awal:

Validasi data input (misalnya deteksi data tidak wajar).
Review hasil model sebelum keputusan final.
Audit berkala untuk memastikan performa tetap stabil.
Prosedur “stop the system” bila metrik risiko melewati ambang.

3) Dokumentasikan: bukti tata kelola itu aset

Organisasi yang matang biasanya punya dokumentasi yang rapi. Minimal, kamu perlu:

Tujuan penggunaan AI dan batasannya.
Deskripsi data (sumber, cara pengumpulan, label, dan proses pembersihan).
Informasi model (versi, metrik evaluasi, dan hasil uji bias).
Log keputusan dan alasan (reasoning) pada level yang bisa ditelusuri.
Rencana mitigasi risiko dan rencana audit.

4) Bangun pelatihan tim: manusia harus siap mengendalikan

Kendali manusia akan gagal kalau orang yang mengawasi tidak memahami batas sistem. Buat pelatihan untuk:

cara membaca indikator performa dan sinyal risiko,
cara melakukan koreksi atau eskalasi,
cara menangani kasus “edge” yang tidak biasa.

Langkah praktis untuk menerapkan kendali manusia dalam produk AI

Supaya lebih “nendang” dan bisa kamu lakukan, berikut panduan praktis yang bisa diterapkan pada proyek AIbaik yang sudah berjalan maupun yang masih tahap desain.

Mulai dari use case prioritas: pilih satu proses yang dampaknya jelas (misalnya layanan pelanggan, klasifikasi dokumen, atau penilaian kelayakan awal).
Definisikan keputusan final: tentukan apakah AI hanya rekomendasi atau benar-benar menentukan keputusan.
Tentukan level intervensi: untuk keputusan berdampak tinggi, gunakan human-in-the-loop dengan SLA peninjauan yang jelas.
Siapkan mekanisme koreksi: buat kanal banding, form koreksi, dan alur eskalasi ke tim yang tepat.
Uji fairness dan ketahanan: lakukan pengujian pada kelompok data berbeda serta skenario perubahan data (data drift).
Implementasikan monitoring: pantau akurasi, bias indikator, serta anomali input.
Audit rutin: jadwalkan audit berkala dan perbarui dokumentasi saat model atau data berubah.

Dengan langkah-langkah ini, kamu tidak hanya memenuhi semangat kebijakan, tetapi juga meningkatkan kualitas layanan. Lagi pula, sistem AI yang diawasi dengan baik biasanya lebih konsisten dan lebih dipercaya pengguna.

Indonesia mendorong tata kelola AI yang menekankan kendali manusia. Untuk menyelaraskan implementasi, kamu bisa memposisikan tata kelola sebagai bagian dari siklus hidup produk:

Design: tentukan batas keputusan dan control points.
Build: siapkan data yang berkualitas, uji bias, serta definisikan metrik keselamatan.
Deploy: implementasikan monitoring, logging, dan prosedur eskalasi.
Operate: lakukan audit berkala dan perbaiki proses saat ada temuan.

Dengan begitu, standar Wamenkomdigi tidak berhenti sebagai “arahan kebijakan”, melainkan menjadi praktik nyata.

Dan praktik nyata itu yang biasanya membedakan organisasi yang sukses memanfaatkan AI secara bertanggung jawab dengan yang hanya mengejar hasil cepat.

Intinya, kendali manusia sebagai standar utama tata kelola AI adalah kompas agar teknologi tetap berpihak pada keselamatan, keadilan, dan akuntabilitas.

Jika kamu menerjemahkannya ke mekanisme intervensi, dokumentasi, pelatihan tim, serta monitoring yang disiplin, implementasi AI akan lebih amandan lebih siap menghadapi kebutuhan publik maupun dinamika risiko yang selalu berubah.