Bessent Powell Peringatkan Risiko Model AI Bank yang Perlu Dipahami

Oleh VOXBLICK

Sabtu, 02 Mei 2026 - 14.15 WIB

Bessent Powell Peringatkan Risiko Model AI Bank yang Perlu Dipahami

Peringatan risiko model AI bank (Foto oleh Markus Winkler)

VOXBLICK.COM - Dunia perbankan saat ini tidak hanya bergantung pada infrastruktur inti dan manajemen likuiditas, tetapi juga pada model AI untuk pengambilan keputusan yang lebih cepat: penilaian risiko kredit, deteksi transaksi mencurigakan, hingga pengelolaan kepatuhan. Namun, peringatan yang disampaikan Bessent dan Powell menyoroti satu isu yang sering dianggap “terlalu teknis” oleh nasabah: risiko model AI banktermasuk potensi skenario serangan siber ofensif dan defensifyang perlu dipahami karena bisa berdampak langsung pada risiko operasional, kepatuhan, dan kualitas layanan.

Intinya, model AI bukan sekadar “mesin prediksi.” Ia juga menjadi bagian dari rantai keputusan yang menyentuh data sensitif, sistem internal, serta proses audit.

Ketika model berperan sebagai pengambil keputusan, maka kesalahan model atau gangguan terhadapnya dapat memicu rangkaian efek: dari penundaan layanan, salah klasifikasi transaksi, hingga potensi kerugian reputasi dan finansial. Untuk memahami konteksnya, kita perlu membedah satu mitos yang paling sering muncul: bahwa model AI hanya “mengurangi pekerjaan manusia” sehingga risikonya kecil. Padahal, dalam praktik, AI bisa menjadi permukaan serangan (attack surface) yang baru.

Kenapa risiko model AI tidak bisa dianggap “sekadar teknologi”?

Dalam perbankan, AI sering berada di antara tiga komponen besar: data, model, dan keputusan. Jika salah satu komponen terganggu, dampaknya bisa “menjalar” ke komponen lain.

Misalnya, serangan siber ofensif dapat menargetkan data input atau mekanisme pembaruan model. Sementara itu, serangan defensif (misalnya upaya mengelabui sistem keamanan) dapat memanfaatkan celah interpretasi model untuk membuat deteksi anomali berjalan tidak semestinya.

Analogi sederhana: anggap AI sebagai “petugas pemeriksa” di ruang keamanan.

Jika petugasnya dilatih dari catatan masa lalu yang bias atau data latihnya disusupi, maka ia bisa salah menilai orang yang seharusnya lolos atau justru menahan orang yang semestinya aman. Dalam konteks bank, salah penilaian ini bisa berhubungan dengan risiko pasar secara tidak langsung (misalnya keputusan pembiayaan yang keliru memengaruhi portofolio), serta berkaitan erat dengan risiko operasional (gangguan proses, audit trail yang lemah, dan kegagalan sistem).

Mitos finansial: “AI hanya menghemat biaya, jadi risikonya kecil”

Mitos yang perlu diluruskan adalah anggapan bahwa AI hanya meningkatkan efisiensi sehingga efek risikonya minimal.

Dalam kenyataan perbankan, efisiensi yang lebih tinggi sering datang bersama kebutuhan integrasi yang lebih dalam: otomasi keputusan, umpan balik real-time, dan penggunaan data dalam skala besar. Kombinasi ini membuat risiko menjadi lebih kompleks, bukan lebih kecil.

Secara spesifik, peringatan terkait model AI (termasuk yang dikembangkan oleh pihak luar) sering menyinggung kemungkinan dua jenis gangguan:

Serangan siber ofensif: upaya mengubah atau memanipulasi data, mengganggu pipeline pelatihan/pembaruan model, atau menargetkan cara model merespons input tertentu.
Serangan siber defensif: upaya “mengakali” mekanisme deteksimisalnya mengurangi kemampuan sistem mendeteksi anomalisehingga kontrol internal menjadi kurang efektif.

Ketika kontrol internal melemah, dampaknya dapat terlihat pada aspek kepatuhan (misalnya konsistensi keputusan, kemampuan penjelasan untuk audit, dan ketertelusuran proses).

Dari sisi nasabah, efeknya bisa berupa perubahan pola layanan: verifikasi lebih ketat, penundaan proses, atau penolakan transaksi yang terasa “tidak masuk akal” karena model tidak lagi membaca sinyal dengan benar.

Dampak pada risiko operasional dan kepatuhan: dari audit trail hingga stabilitas layanan

Bank yang menggunakan model AI biasanya memerlukan tata kelola: bagaimana model dilatih, diuji, dipantau, dan diperbarui.

Jika model menjadi “kotak hitam” tanpa dokumentasi yang memadai, maka ketika terjadi insidenmisalnya lonjakan false positive pada deteksi penipuanbank akan kesulitan menjelaskan penyebabnya. Di sinilah peringatan Bessent dan Powell menjadi relevan: risiko model AI bukan hanya soal akurasi, tetapi juga soal kontrol.

Konsekuensi yang mungkin dirasakan industri dan nasabah meliputi:

Risiko operasional: downtime sistem keputusan, kegagalan integrasi, atau kebutuhan rollback saat model menghasilkan output abnormal.
Risiko kepatuhan: ketidakselarasan keputusan otomatis dengan prosedur kebijakan internal, serta keterbatasan dokumentasi untuk audit.
Risiko reputasi: ketidakpercayaan publik ketika terjadi penolakan transaksi atau keterlambatan layanan yang sistemik.

Dalam kerangka pengawasan umum, bank juga perlu memastikan aspek tata kelola teknologi informasi dan manajemen risiko selaras dengan prinsip yang biasanya dijelaskan oleh otoritas seperti OJK. Fokusnya bukan pada klaim “model pasti aman,” melainkan pada kemampuan bank mengelola siklus hidup model (model lifecycle) dan kontrol keamanan.

Bagaimana nasabah bisa “membaca” implikasi AI tanpa harus paham pemrograman?

Nasabah tidak perlu menjadi ilmuwan data untuk memahami bahwa AI memengaruhi proses. Yang penting adalah memahami sinyal yang biasanya tampak dari pengalaman layanan.

Ketika bank mengandalkan model AI untuk deteksi transaksi atau penilaian risiko, nasabah dapat memperhatikan indikator non-teknis berikut:

Perubahan konsistensi verifikasi: misalnya pola tambahan verifikasi mendadak pada transaksi tertentu.
Perubahan waktu proses: kelambatan yang tidak biasa saat otorisasi transaksi.
Penjelasan kebijakan: apakah bank mampu memberikan penjelasan proses secara wajar saat terjadi penolakan.

Analogi lain: seperti “filter” pada layanan pelanggan. Jika filter terlalu sensitif atau salah membaca konteks, maka tiket yang valid bisa tertahan.

Ketika bank mengubah parameter model AI atau mengintegrasikan model pihak lain, filter bisa bergeser karakternyadan ini dapat memengaruhi pengalaman nasabah.

Tabel Perbandingan Sederhana: Risiko vs Manfaat Penggunaan Model AI di Perbankan

Aspek	Manfaat yang Mungkin	Risiko yang Perlu Diwaspadai
Efisiensi proses	Otomasi keputusan lebih cepat, biaya operasional dapat ditekan	Jika model salah, dampak otomatis bisa menyebar cepat (misclassification massal)
Deteksi penipuan	Deteksi anomali lebih adaptif terhadap pola transaksi	Serangan yang mengelabui model dapat meningkatkan false positive/false negative
Kepatuhan & audit	Standarisasi proses keputusan berbasis aturan/model	Dokumentasi dan audit trail yang lemah menyulitkan investigasi insiden
Keamanan siber	Kontrol keamanan bisa ditingkatkan melalui analitik	Model menjadi permukaan serangan baru (pipeline data, integrasi, pembaruan model)

Kenapa peringatan spesifik pada “model AI dari vendor tertentu” penting untuk pemahaman publik?

Dalam berita, disebutkan risiko model AI dari Anthropic sebagai contoh. Bagi pembaca, poin pentingnya bukan pada merek atau nama vendor, melainkan pada bagaimana bank mengelola ketergantungan pada model pihak ketiga.

Ketika model berasal dari luar, bank perlu memastikan:

Kontrol integrasi: bagaimana model dihubungkan ke sistem bank (misalnya API, data pipeline, dan autentikasi).
Manajemen versi: perubahan versi model tidak boleh mengubah perilaku secara tidak terduga tanpa pengujian.
Pengawasan keamanan: apakah ada uji ketahanan terhadap skenario serangan siber yang relevan.

Di sini, konsep seperti likuiditas dan risiko pasar tidak selalu muncul langsung, tetapi dampak operasional bisa berujung pada keputusan bisnis: misalnya penilaian kredit yang keliru akan mengubah kualitas aset dan

pada akhirnya memengaruhi ketahanan portofolio. Karena itu, risiko AI sebaiknya dipandang sebagai bagian dari ekosistem manajemen risiko bank.

FAQ (Pertanyaan Umum)

1) Apa yang dimaksud dengan “risiko model AI” di bank?

Risiko model AI adalah potensi kerugian atau gangguan yang muncul karena model menghasilkan keputusan yang salah, bias, sulit dijelaskan, atau terganggu oleh serangan siber pada data/pipeline/model.

Dampaknya bisa ke risiko operasional, kepatuhan, dan kualitas layanan nasabah.

2) Bagaimana serangan siber bisa terkait dengan model AI (ofensif dan defensif)?

Serangan ofensif dapat menargetkan manipulasi data input atau cara model diperbarui, sehingga output model berubah.

Serangan defensif bisa berupa upaya mengelabui sistem deteksi agar kontrol keamanan bekerja kurang efektif, misalnya meningkatkan transaksi yang lolos padahal tidak seharusnya, atau sebaliknya.

3) Apa yang sebaiknya diperhatikan nasabah saat bank menggunakan AI untuk transaksi atau penilaian risiko?

Nikmati layanan, tetapi perhatikan pola: perubahan mendadak pada proses verifikasi, waktu persetujuan, atau penolakan transaksi.

Jika terjadi masalah, minta penjelasan proses secara wajar dan pastikan data transaksi yang Anda berikan konsisten (mengurangi kemungkinan model membaca konteks secara keliru).

Perkembangan model AI di perbankan membawa manfaat efisiensi dan kemampuan analitik, tetapi peringatan tentang risiko model AI menegaskan bahwa keamanan siber, tata kelola model, serta kepatuhan tidak bisa dipisahkan.

Instrumen keuangan dan keputusan yang terkait portofoliobaik langsung maupun tidak langsungtetap memiliki risiko pasar dan potensi fluktuasi nilai, sehingga penting untuk melakukan riset mandiri dan memahami karakteristik risiko sebelum mengambil keputusan finansial.