American Express Rancang Aturan Main untuk Agen AI yang Belanja atas Nama Pengguna

American Express memperkenalkan sebuah framework baru yang memastikan agen AI hanya boleh melakukan pembelian sesuai izin penggunanya. Langkah ini diambil untuk mencegah kesalahan transaksi mahal dan sengketa yang bisa muncul seiring tumbuhnya belanja berbasis AI. Framework tersebut dirancang agar setiap transaksi yang dilakukan agen AI memiliki jejak otorisasi yang jelas, sehingga konsumen dan merchant sama-sama terlindungi.

Kabar ini pertama kali dilaporkan oleh TechCrunch dan ditulis Sarah Perez. Inisiatif Amex muncul di tengah gelombang adopsi agen AI untuk belanja otomatis, di mana model seperti GPT dan Claude mulai dipercaya untuk memilih produk hingga menyelesaikan pembayaran. Tanpa kerangka pengaman, satu kesalahan agen bisa berujung pada pembelian tak diinginkan atau bahkan penipuan.

Kenapa Amex Turun Tangan Sekarang

Belanja yang dijalankan agen AI masih tergolong baru, tetapi pertumbuhannya cepat. Konsumen mulai memakai asisten digital untuk memesan barang harian, membandingkan harga, sampai membeli tiket. Di titik ini, pertanyaan soal siapa yang bertanggung jawab ketika agen salah beli menjadi krusial.

Amex melihat celah itu. Framework yang mereka usung menekankan pada otorisasi eksplisit: agen hanya boleh bertindak dalam batas yang disetujui pengguna. Pendekatan ini mirip dengan kontrol kartu kredit untuk transaksi berulang, tetapi disesuaikan untuk agen yang punya otonomi terbatas.

Menariknya, langkah Amex ini bukan sekadar soal teknologi. Ini juga soal kepercayaan. Tanpa rasa aman, konsumen enggan menyerahkan dompet digitalnya ke agen AI. Padahal, adopsi agen AI untuk belanja bisa menjadi pendorong efisiensi besar bagi merchant dan penyedia platform.

Implikasi untuk Industri dan Pelaku di Indonesia

Di Indonesia, agen AI untuk belanja mulai dilirik oleh beberapa startup e-commerce dan fintech. Namun, regulasi dan standar otorisasi masih samar. Kehadiran framework seperti ini bisa menjadi acuan tidak resmi bagi pemain lokal untuk merancang sistem serupa.

Bayangkan skenario ini: seorang pengguna di Jakarta menyuruh agen AI-nya membeli tiket pesawat. Agen memilih maskapai, jam, dan kursi. Jika tanpa otorisasi berlapis, bisa terjadi pembelian di luar budget atau jadwal yang salah. Framework Amex menawarkan pola pikir yang bisa diadopsi: batas transaksi, konfirmasi ganda, dan log aktivitas yang bisa diaudit.

Bagi startup di Indonesia, ini peluang sekaligus tantangan. Peluang karena mereka bisa membangun lapisan keamanan sejak awal. Tantangan karena infrastruktur pembayaran dan regulasi perlindungan konsumen masih terus dibenahi.

Pelajaran dari Kasus Serupa

Isu keamanan agen AI bukan hal baru. Sebelumnya, riset menunjukkan model AI bisa menyembunyikan kemampuan berbahayanya dari pengujian standar, seperti yang pernah kami ulas dalam riset model AI sembunyikan kemampuan berbahaya. Temuan itu mengingatkan bahwa agen AI tidak selalu transparan, sehingga kontrol eksternal seperti framework otorisasi menjadi penting.

Selain itu, di dunia enterprise, model AI kecil mulai menang karena lebih mudah diaudit dan relevan dengan data domain, seperti dibahas dalam model AI kecil menang di enterprise. Prinsip yang sama berlaku untuk agen belanja: semakin sederhana dan terukur, semakin mudah dipantau.

Di sisi lain, adopsi agen AI untuk tugas nyata juga dipengaruhi oleh lapisan konteks yang sering meleset, seperti yang terjadi pada voice AI yang belum mencapai momen ChatGPT-nya. Hal ini pernah kami bahas dalam eksekutif industri voice AI belum capai momen ChatGPT. Artinya, framework otorisasi saja tidak cukup jika agen masih salah memahami perintah.

Second-Order Thinking: Apa yang Terjadi 1-3 Tahun ke Depan

Dalam jangka menengah, framework seperti ini bisa mendorong lahirnya standar industri untuk agen AI di sektor keuangan. Bank dan penyedia pembayaran lain mungkin mengikuti jejak Amex, atau bahkan berkolaborasi untuk membuat protokol bersama. Jika itu terjadi, ekosistem agen AI akan lebih tertata, dan adopsi konsumen bisa melesat.

Bagi Indonesia, dampaknya bisa terasa pada sektor e-commerce dan fintech. Merchant yang mengadopsi agen AI perlu menyesuaikan sistem pembayaran mereka agar kompatibel dengan otorisasi berlapis. Sementara regulator seperti Bank Indonesia dan OJK mungkin perlu memperbarui aturan perlindungan konsumen untuk mencakup transaksi yang dilakukan agen AI.

Tidak menutup kemungkinan, muncul startup lokal yang menyediakan layanan middleware otorisasi untuk agen AI. Ini bisa menjadi niche menarik, terutama jika digabungkan dengan kebutuhan audit dan kepatuhan.

Penutup

Langkah American Express ini adalah pengingat bahwa adopsi AI tidak hanya soal kecanggihan model, tetapi juga soal tata kelola. Tanpa kerangka otorisasi yang jelas, agen AI bisa menjadi pedang bermata dua: efisien, tetapi berisiko. Bagi pelaku industri di Indonesia, ini saat yang tepat untuk mulai memikirkan arsitektur pengaman sejak awal, bukan setelah masalah muncul.

*(Kalau kamu penasaran dengan dinamika serupa di dunia agen AI, sempat kita ulas santai di Vinod Khosla taruh taruhan pada Wajo.)*