Pengawasan AI Pengenalan Wajah Tertinggal dari Teknologi

VOXBLICK.COM - Pengawasan berbasis AI pengenalan wajah sedang berkembang cepat, tetapi pengawas biometrik di Inggris memperingatkan bahwa tata kelola untuk penggunaan teknologi inikhususnya dalam penegakan hukumtertinggal jauh dari laju inovasi. Artinya, kemampuan teknis yang makin akurat dan makin mudah diintegrasikan ke sistem keamanan tidak otomatis diikuti oleh aturan yang cukup jelas, pengawasan yang kuat, dan mekanisme koreksi ketika terjadi kesalahan.

Dalam praktiknya, pengenalan wajah bukan sekadar “mencocokkan foto”. Sistem AI biasanya bekerja dengan mengekstrak fitur wajah, mengubahnya menjadi representasi numerik (sering disebut embedding), lalu membandingkannya dengan database.

Ketika dipakai untuk kepolisian atau lembaga penegakan hukum, dampaknya bisa sangat nyata: seseorang bisa dikaitkan dengan lokasi tertentu, masuk ke proses investigasi, atau bahkan terkena konsekuensi administratifsementara kualitas data, konteks penggunaan, dan bias model dapat memengaruhi hasil.

Kenapa “tertinggal” itu penting: jarak antara kemampuan AI dan aturan

Peringatan pengawas biometrik Inggris menyoroti kesenjangan antara kematangan teknologi dan kematangan tata kelola. Teknologi pengenalan wajah terus mengalami peningkatan, misalnya dari sisi:

• Kecepatan pemrosesan (bisa berjalan real-time di perangkat tertentu atau sistem terpusat).
• Kualitas model yang meminimalkan error pada kondisi tertentu.
• Integrasi sistem dengan infrastruktur CCTV dan manajemen data.
• Skalabilitas untuk membandingkan wajah dari banyak sumber.

Namun, tanpa kerangka pengawasan yang memadai, risiko tetap tinggi: siapa yang boleh menggunakan sistem, untuk tujuan apa, bagaimana persetujuan atau dasar hukum diterapkan, bagaimana audit dilakukan, dan bagaimana individu bisa menantang hasil

yang keliru. Kesenjangan ini membuat “tertinggalnya pengawasan” bukan sekadar masalah administratifmelainkan masalah perlindungan hak.

Temuan utama: efektivitas yang dipertanyakan dalam konteks penegakan hukum

Salah satu inti dari kritik adalah bahwa efektivitas AI pengenalan wajah untuk penegakan hukum tidak selalu sejelas klaim pemasaran teknologi.

Bahkan ketika model memiliki metrik akurasi yang terlihat baik di pengujian laboratorium, performa di dunia nyata bisa berubah karena variasi:

• Kualitas gambar: pencahayaan rendah, blur, sudut kamera, dan resolusi rendah.
• Perubahan penampilan: usia, perubahan gaya rambut, aksesori, atau penutup wajah tertentu.
• Bias dataset: model dilatih pada kumpulan data yang tidak seimbang antar kelompok.
• Konkurensi skenario: banyak orang di frame, latar ramai, atau pergerakan cepat.

Selain aspek teknis, ada juga tantangan prosedural. Dalam operasi penegakan hukum, sistem sering digunakan sebagai “titik awal” investigasi.

Jika proses tindak lanjut tidak ketat, hasil yang salah (false match) dapat berkembang menjadi penyelidikan yang mengarah pada orang yang tidak relevan. Sebaliknya, false negative juga bisa menutup peluang menemukan tersangka yang sebenarnya.

Di sinilah pengawas biometrik menekankan kebutuhan untuk mengevaluasi bukan hanya “apakah sistem bekerja”, tetapi “apakah sistem bekerja dengan cara yang dapat dipertanggungjawabkan” dan “apakah manfaatnya sebanding dengan risikonya”.

Bagaimana AI pengenalan wajah bekerja (dengan bahasa sederhana)

Untuk memahami kenapa tata kelola itu rumit, penting melihat alur kerja sistem. Secara umum, pengenalan wajah mengikuti langkah berikut:

• Deteksi wajah: sistem menemukan area wajah dalam gambar atau video.
• Ekstraksi fitur: model menghitung parameter dari wajah (misalnya bentuk, pola, dan proporsi) untuk menghasilkan embedding.
• Pencocokan: embedding dibandingkan dengan embedding di database (misalnya daftar tersangka atau data kendaraan/identitas terkait).
• Skor kemiripan: sistem memberi skor keputusan “cocok/tidak” biasanya bergantung ambang batas (threshold).
• Tindak lanjut: operator atau sistem penegakan hukum menilai hasil, lalu memutuskan langkah investigasi.

Masalah tata kelola muncul di banyak titik: ambang batas bisa terlalu longgar, kualitas database bisa tidak merata, dan keputusan operator bisa dipengaruhi konteks.

Bahkan jika AI “secara statistik” cukup baik, dampak pada individu tetap bisa berat ketika digunakan tanpa prosedur koreksi dan audit yang kuat.

Isu bias: ketika akurasi tidak merata antar kelompok

Bias adalah salah satu kekhawatiran utama dalam pengawasan AI pengenalan wajah. Bias bisa muncul dari data latih yang tidak seimbang, perbedaan kondisi pengambilan gambar, atau cara model memetakan fitur wajah. Dampaknya bisa berupa:

• Perbedaan false match rate antar kelompok demografis.
• Penurunan performa pada kondisi tertentu (misalnya pencahayaan atau sudut kamera) yang kebetulan lebih sering terjadi pada situasi tertentu.
• Efek berantai: jika sistem memberi sinyal “kemiripan” yang lebih sering pada kelompok tertentu, maka kelompok itu akan lebih sering diperiksa.

Dari perspektif hukum dan etika, bias bukan sekadar “angka ketidaksamaan”. Ia memengaruhi peluang seseorang untuk terlibat dalam proses penegakan hukum.

Karena itu, pengawasan yang tertinggal dapat berarti lembaga masih mengandalkan sistem tanpa uji bias yang memadai, tanpa transparansi, dan tanpa mekanisme mitigasi.

Kebutuhan regulasi baru: apa yang seharusnya diperjelas

Jika tata kelola tertinggal dari teknologi, regulasi perlu menjawab beberapa pertanyaan praktis. Bukan hanya “apakah AI boleh digunakan”, tetapi juga “bagaimana penggunaan AI harus dikendalikan”. Beberapa area yang relevan meliputi:

• Dasar hukum dan tujuan spesifik: penggunaan untuk identifikasi massal berbeda dengan penggunaan untuk investigasi berbasis kasus.
• Standar evaluasi performa: termasuk pengujian di kondisi dunia nyata, bukan hanya dataset standar.
• Uji bias dan pelaporan: hasil harus dipublikasikan secara bermakna (setidaknya untuk pihak yang berwenang) agar bisa diaudit.
• Ambang keputusan (threshold) yang dapat dipertanggungjawabkan: harus ada justifikasi untuk nilai ambang batas, serta konsekuensi jika terjadi kesalahan.
• Prosedur koreksi: bagaimana seseorang dapat menantang hasil, memperoleh penjelasan, dan meminta perbaikan.
• Audit independen: verifikasi berkala terhadap sistem, database, dan proses operator.
• Pengelolaan data biometrik: pembatasan retensi, keamanan penyimpanan, serta kontrol akses.

Regulasi yang baik juga perlu mempertimbangkan bahwa sistem AI tidak statis. Model bisa diperbarui, dataset bisa berubah, dan kamera di lapangan bisa berbeda.

Jadi, tata kelola harus bersifat berkelanjutanbukan sekadar persetujuan sekali di awal.

Contoh penggunaan di dunia nyata: apa yang biasanya terjadi di lapangan

Dalam beberapa skenario penegakan hukum, AI pengenalan wajah dapat digunakan untuk:

• Membandingkan wajah dari rekaman CCTV dengan database tersangka atau daftar orang berkepentingan.
• Membantu penelusuran setelah ada insiden, misalnya menentukan siapa yang berada di lokasi tertentu.
• Mempercepat penyaringan pada volume data besar, sehingga operator hanya meninjau kandidat yang paling mirip.

Namun, praktik lapangan sering kali menghadapi keterbatasan. Misalnya, kualitas video dari CCTV publik tidak selalu ideal, dan proses investigasi bisa dipengaruhi tekanan waktu.

Tanpa pengawasan yang kuat, sistem dapat menjadi “otoritas otomatis” yang terlalu dipercaya. Karena itu, pengawasan harus memastikan AI berfungsi sebagai alat bantubukan pengganti penilaian manusia yang bertanggung jawab.

Perbandingan yang adil: AI bukan satu-satunya faktor

Penting untuk menilai secara adil: teknologi AI pengenalan wajah dapat memiliki kegunaan nyata, terutama jika dipakai secara terbatas, terukur, dan diaudit. Tetapi efektivitasnya bergantung pada ekosistemnya, termasuk:

• Manajemen database (kualitas dan relevansi data biometrik).
• Prosedur operasional (bagaimana hasil ditinjau, siapa yang memutuskan, dan bagaimana pencatatan dilakukan).
• Transparansi (sejauh mana publik dan pihak pengawas mengetahui bagaimana dan kapan sistem dipakai).
• Perlindungan terhadap kesalahan (mekanisme koreksi dan kompensasi jika terjadi dampak).

Jadi, ketika pengawas biometrik menyatakan pengawasan tertinggal dari teknologi, kritiknya bukan berarti AI “selalu salah”.

Kritiknya lebih tepat: tanpa kerangka tata kelola yang memadai, potensi kesalahan bisa meningkat, dan dampak pada individu bisa sulit diperbaiki.

Pengawasan AI pengenalan wajah untuk penegakan hukum memang berada di persimpangan antara inovasi dan hak asasi. Peringatan dari pengawas biometrik Inggris menegaskan bahwa kemajuan teknologi tidak boleh dibiarkan berjalan sendirian.

Evaluasi efektivitas, uji bias, audit independen, serta regulasi yang jelas tentang dasar penggunaan dan hak individu menjadi kebutuhan mendesak. Dengan pendekatan yang objektif dan transparan, teknologi dapat dimanfaatkan secara lebih bertanggung jawabtanpa mengorbankan perlindungan yang seharusnya melekat pada sistem yang menyentuh identitas manusia.