Model AI Kecil Mulai Menang di Dunia Enterprise, Ini Tiga Pelajaran dari Deteksi Fraud

Model AI Kecil Mulai Menang di Dunia Enterprise, Ini Tiga Pelajaran dari Deteksi Fraud

Selama beberapa tahun terakhir, narasi industri AI didominasi oleh perlombaan model raksasa. Setiap bulan ada saja rilis model dengan parameter ratusan miliar, klaim benchmark yang saling salip, dan gelontoran dana investasi yang bikin geleng kepala. Tapi di ruang rapat perusahaan-perusahaan besar, cerita yang beredar justru sering kali berkebalikan. Model kecil, dengan parameter jauh lebih ramping, mulai diperhitungkan serius. Bukan karena lebih canggih, tapi karena lebih masuk akal secara operasional dan bisnis.

Freddy Lécué, seorang praktisi yang membangun foundation model untuk deteksi fraud di lingkungan enterprise, membagikan tiga pelajaran penting dari pengalamannya. Model yang ia garap hanya berukuran 1 miliar parameter. Terdengar kecil dibandingkan GPT-4 atau Claude, tapi justru di situlah letak kekuatannya.

Kenapa Model Kecil Tiba-Tiba Relevan Lagi

Ada satu kesalahpahaman umum yang perlu dibongkar: anggapan bahwa model lebih besar otomatis lebih pintar untuk semua kasus. Padahal dalam banyak tugas spesifik seperti deteksi fraud, klasifikasi transaksi, atau ekstraksi dokumen, model kecil yang dilatih dengan data domain yang tepat justru bisa mengalahkan model generalis raksasa. Bukan tanpa alasan. Model besar cenderung boros komputasi, sulit diaudit, dan sering kali memberi jawaban yang tidak bisa dijelaskan secara rinci.

Di sektor keuangan, penjelasan itu bukan kemewahan. Regulator menuntut alasan yang bisa ditelusuri ketika sebuah transaksi ditandai sebagai mencurigakan. Model besar dengan miliaran parameter aktif sering kali jadi kotak hitam yang menyulitkan proses audit. Sementara model kecil, dengan arsitektur yang lebih sederhana, memungkinkan tim engineering membedah setiap keputusan yang diambil.

Pelajaran Pertama: Data Domain Lebih Penting dari Skala

Pelajaran paling mendasar yang dibagikan Lécué adalah soal kualitas data. Model 1 miliar parameter yang dilatih dengan data transaksi keuangan asli, dengan distribusi yang sesuai konteks, bisa mencapai akurasi yang bersaing dengan model jauh lebih besar. Kuncinya bukan pada jumlah parameter, tapi pada relevansi data pelatihan. Ini sejalan dengan pergeseran yang mulai terlihat di banyak perusahaan: mereka berhenti mengejar model terbesar dan mulai fokus pada model yang paling pas dengan masalah mereka.

Implikasi untuk pasar Indonesia cukup nyata. Banyak startup fintech dan perbankan digital di sini masih menggantungkan diri pada API model global yang mahal dan tidak bisa dikustomisasi lewat data lokal. Padahal pola fraud di Indonesia, mulai dari modus social engineering sampai transaksi lintas platform e-wallet, punya karakteristik yang sangat khas. Model kecil yang dilatih dengan data lokal berpotensi jauh lebih efektif, sekaligus lebih murah untuk dijalankan.

Pelajaran Kedua: Latensi dan Biaya Operasional Menentukan Nasib di Produksi

Hal kedua yang sering dilupakan dalam diskusi model AI adalah ongkos menjalankannya setiap hari. Model besar butuh GPU mahal, sering kali harus berjalan di cloud dengan biaya per token yang menumpuk. Untuk aplikasi yang memproses jutaan transaksi per hari, biaya ini bisa menggerus margin secara signifikan. Model 1 miliar parameter, di sisi lain, bisa dijalankan di infrastruktur yang jauh lebih sederhana, bahkan di on-premise untuk perusahaan yang punya syarat ketat soal data residency.

Bagi perbankan dan perusahaan asuransi di Indonesia, kemampuan menjalankan model secara lokal bukan sekadar soal penghematan. Ada regulasi OJK dan aturan perlindungan data pribadi yang membatasi perpindahan data ke luar negeri. Model kecil yang bisa di-host sendiri membuka jalan bagi kepatuhan tanpa harus mengorbankan performa. Ini juga sejalan dengan tren global di mana perusahaan mulai memindahkan beban AI dari cloud publik ke infrastruktur privat, seperti yang sempat kita ulas dalam konteks gebrakan arsitektur chip AI Nvidia yang mendorong efisiensi komputasi di tingkat perangkat.

Pelajaran Ketiga: Evaluasi Harus Berbasis Dampak Bisnis, Bukan Benchmark

Pelajaran terakhir menyentuh soal cara mengukur keberhasilan. Lécué menekankan bahwa tim engineering sering terjebak pada skor benchmark yang tidak mencerminkan performa nyata di lapangan. Untuk deteksi fraud, angka yang benar-benar penting adalah berapa banyak kasus yang berhasil dicegah, berapa banyak false positive yang harus ditangani tim operasional, dan berapa lama waktu respons dari deteksi ke tindakan.

Pendekatan ini sejalan dengan cara pandang yang mulai banyak dianut pelaku industri, termasuk di Indonesia. Alih-alih mengejar model dengan skor tertinggi di leaderboard, perusahaan mulai bertanya: berapa nilai rupiah yang bisa diselamatkan model ini per kuartal? Berapa jam kerja tim analis yang bisa dihemat? Pertanyaan-pertanyaan seperti ini yang akhirnya menentukan apakah sebuah proyek AI layak dilanjutkan atau tidak.

Implikasi untuk Ekosistem AI Indonesia

Kalau ditarik ke konteks lokal, pergeseran ke model kecil ini membuka peluang besar bagi talenta dan startup AI di Indonesia. Selama ini banyak yang merasa tertinggal karena tidak punya akses ke GPU besar atau dana riset raksasa. Padahal justru di celah inilah model kecil punya ruang menang. Startup yang fokus pada domain spesifik seperti agrikultur, logistik, atau layanan keuangan bisa membangun model yang lebih relevan dan lebih murah dibandingkan sekadar menyewa API global.

Pola pikir ini juga mulai terlihat di beberapa inisiatif yang kami bahas sebelumnya, misalnya soal bagaimana pendekatan berbasis kepercayaan lebih menentukan daripada kecanggihan model. Di sana, nilai sebuah sistem AI tidak diukur dari seberapa besar parameternya, tapi dari seberapa andal ia bisa menyelesaikan pekerjaan nyata. Logika yang sama berlaku untuk model kecil di enterprise.

Kapan Model Kecil Bukan Pilihan Tepat

Tentu saja, tidak semua kasus cocok dengan model kecil. Untuk tugas-tugas yang membutuhkan penalaran lintas domain, pemahaman bahasa alami yang kompleks, atau generasi konten kreatif, model besar masih unggul. Yang berubah adalah cara pandang: model besar bukan lagi default, melainkan salah satu opsi yang harus dipertimbangkan bersama opsi lain. Keputusan memilih model harus didasarkan pada kebutuhan bisnis, bukan gengsi teknologi.

Modernisasi alur kerja digital berbasis automasi dan model yang tepat sasaran seperti ini terbukti memangkas inefisiensi operasional secara drastis. Jika tim kamu sedang merencanakan arsitektur AI atau custom software dengan kebutuhan spesifik, kamu bisa menjadwalkan sesi konsultasi dan eksplorasi teknis langsung bersama para engineer di Rizallab.

Pada akhirnya, cerita tentang model 1 miliar parameter untuk deteksi fraud ini bukan sekadar anekdot teknis. Ia adalah pengingat bahwa di dunia enterprise, kemenangan jarang datang dari yang paling besar atau paling ramai dibicarakan. Sering kali, yang menang adalah yang paling pas dengan masalah, paling murah dijalankan, dan paling mudah dipertanggungjawabkan. Dan di tengah euforia model raksasa, sikap pragmatis seperti ini justru terasa semakin relevan.