Belakangan ini kita sering melihat deck strategi AI yang bentuknya kurang lebih sama: ada 3 logo perusahaan Amerika, timeline 6 bulan, dan 1 slide ROI yang bagus. Biasanya deck seperti ini diadaptasi dari playbook yang dibuat di San Francisco, kemudian dibawa ke Jakarta dengan anggapan bisa langsung diterapkan.
Menurut saya, isi playbook tersebut sebenarnya tidak salah. Akan tetapi ada beberapa asumsi di dalamnya yang ternyata tidak sesuai dengan kondisi di Jakarta, yang mana asumsi-asumsi tersebut justru sangat berpengaruh terhadap unit economic dari AI yang kita bangun.
Di artikel ini kita akan membahas asumsi mana saja yang berbeda, dan apa dampaknya terhadap bisnis. Kita tidak akan membahas model AI mana yang paling bagus, dan juga tidak akan membahas teknik prompting, karena sudah sangat banyak yang membahas itu. Fokus kita di sisi bisnis: kurs, orang, bahasa, dan regulasi.
Oya sebagai konteks, beberapa tahun terakhir ini saya menjalankan perusahaan B2B SaaS di Indonesia yang produknya menggunakan AI. Sehingga tagihan-tagihan yang kita bahas di bawah ini memang saya alami dan bayar sendiri setiap bulan.
4 Asumsi Yang Berbeda di Jakarta
Playbook AI enterprise dari Amerika pada umumnya dibangun di atas 4 asumsi yang di sana memang benar:
- Specialist AI tersedia banyak, tinggal direkrut.
- Tim dan customer sama-sama menggunakan bahasa Inggris.
- Aturan dari regulator sudah lengkap dan jelas.
- Komunikasi dengan customer dilakukan lewat email.
Apabila keempat asumsi itu tidak berlaku, maka sebagian besar isi playbook tersebut juga perlu diadjust sebelum bisa dipakai. Mari kita bahas satu per satu, dimulai dari yang paling mudah diukur, yaitu kurs.
Kurs : Token Math vs Rupiah Math
Mari kita lihat dulu data kurs beberapa tahun terakhir.
Di Oktober 2024, rupiah masih di 15.460 per dolar. Desember 2024 sudah di atas 16.000. Oktober 2025 di 16.575. Akhir Maret 2026 sudah di atas 17.000. Dan saat ini sekitar 17.757, bahkan sempat sampai 18.107. Kalau kita hitung, (17.757 dikurangi 15.460) dibagi 15.460 = naik sekitar 14,9%, anggap saja 15%, dalam waktu 22 bulan. Kenaikannya terjadi sedikit demi sedikit, kira-kira 0,7% per bulan, tidak ada 1 hari pun yang kenaikannya besar, sehingga seringkali kita tidak menyadarinya.
Pada awalnya 15% dalam 2 tahun kelihatan biasa saja, karena gaji karyawan juga naik kurang lebih sebesar itu. Akan tetapi ada 2 hal yang membuat angka ini cukup berbeda untuk bisnis yang menggunakan AI.
Pertama, terkait timing. Cost AI kita berubah setiap hari mengikuti kurs, sedangkan kontrak B2B di Indonesia pada umumnya dibuat dalam rupiah dan berlaku selama 1 tahun. Sehingga di antara tanda tangan kontrak dan renewal, selisih kurs yang terjadi akan langsung mengurangi margin kita, dan kita tidak bisa membebankan selisih tersebut ke customer sampai kontraknya diperpanjang.
Kedua, terkait besarnya cost tersebut dibandingkan revenue. Di bisnis SaaS pada umumnya, biaya infrastruktur hanya bagian kecil dari revenue, sehingga pergerakan kurs tidak begitu berpengaruh. Akan tetapi biaya inference AI berbeda, karena biaya ini keluar setiap kali produk digunakan, dan untuk fitur yang banyak menggunakan AI, biayanya bisa mencapai 30 sampai 40% dari harga jual. Dengan persentase sebesar itu, kenaikan kurs 15% akan mengurangi gross margin kita beberapa persen dengan sendirinya, tanpa ada perubahan apapun di produk ataupun di pricing.
Inference adalah biaya menjalankan model AI setiap kali model tersebut dipakai. Biasanya dihitung per token, yaitu potongan kata yang diproses oleh model.
Sekarang mari kita hitung dengan angka agar lebih jelas.
Vendor AI pada umumnya memberikan harga per 1 juta token. Harga dengan satuan seperti ini seringkali membuat biayanya terkesan sangat murah, karena tidak ada customer yang benar-benar membeli 1 juta token. Sedangkan customer membayar ke kita per percakapan yang selesai, bukan per token.
Anggap saja harga modelnya $2 per 1 juta token. Kemudian 1 percakapan customer service yang selesai, katakanlah menggunakan 30.000 token, karena setiap kali AI membalas, riwayat chat dan konteks dari sistem dikirim ulang ke model. Berarti biayanya $2 dikali 30.000 dibagi 1.000.000 = $0,06, atau sekitar Rp 1.070 per percakapan dengan kurs saat ini.
Nah, sekarang kita kalikan dengan volume di production. Dengan 100.000 percakapan per bulan, biayanya menjadi sekitar Rp 107 juta/bulan. Dan biaya tersebut akan ikut naik setiap kali rupiah melemah, walaupun kita tidak melakukan perubahan apapun di produk.
Ini yang saya sebut token math vs rupiah math. Banyak pilot project yang lolos approval karena dihitung dengan token math di volume yang masih kecil, kemudian ternyata unit economic-nya tidak sehat ketika dihitung dengan rupiah math di volume production. Sehingga saran saya sederhana: lakukan perhitungan dalam rupiah sejak awal, dengan volume production, dan dengan kurs saat ini. Dengan begitu kita bisa tahu lebih dulu apakah unit economic-nya masuk akal, sebelum terlanjur invest besar di project tersebut.
Sebagai catatan, harga model AI memang terus turun, dan percakapan yang sama tahun depan mungkin biayanya tinggal setengahnya. Hal ini tentu membantu, akan tetapi sebaiknya tidak dijadikan dasar perhitungan, karena penurunan harga mengikuti jadwal vendor, sedangkan pertumbuhan pemakaian mengikuti pertumbuhan bisnis kita, dan dua-duanya tidak ada di dalam kontrak.
Bahasa Campuran di Chat Customer
Coba lihat contoh chat seperti ini:
halo kak mau tanya dong, invoice yg kemarin udah ke-process blm ya? soalnya di dashboard msh pending
Chat seperti ini hampir tidak pernah dibahas di playbook dari San Francisco. Padahal di bisnis kita, justru chat seperti inilah yang paling banyak masuk: informal, banyak singkatan, dan bahasa Indonesia yang bercampur dengan bahasa Inggris dalam 1 kalimat.
Model-model AI terbaik saat ini paling kuat di bahasa Inggris. Kemampuan bahasa Indonesianya sebenarnya sudah bagus, akan tetapi mulai menurun di kondisi seperti chat di atas. Hal ini juga sesuai dengan hasil riset. Ada survei NLP terkait code-switching di tahun 2025 yang mencatat bahwa model multibahasa bisa kehilangan sampai 15% akurasi pada teks campuran, dan akurasi GPT-4 pernah tercatat turun 14 poin di task code-switching. Sayangnya, riset-riset tersebut tidak dilakukan pada chat customer service Indonesia. Jadi bisa dibilang, riset yang paling kita butuhkan justru belum ada.
Sehingga, menurut saya, evaluasi yang bisa kita percaya hanya satu, yaitu evaluasi dengan data kita sendiri. Ambil beberapa ratus percakapan asli, hilangkan data-data yang sensitif, jalankan sistem AI-nya, kemudian minta orang yang mengerti standar jawaban di bisnis kita untuk mengevaluasi hasilnya. Bukan benchmark hasil terjemahan, dan bukan juga demo dari vendor. Apabila vendor tidak mau dites dengan data kita, maka sebenarnya kita belum mendapatkan evaluasi, melainkan baru mendapatkan presentasi sales.
Regulasi Yang Belum Lengkap
Bagian ini seringkali tidak dibahas di playbook impor, padahal bisa sangat berpengaruh terhadap jadi atau tidaknya suatu deal.
UU Pelindungan Data Pribadi (UU No. 27 Tahun 2022) sudah berlaku penuh sejak Oktober 2024. Aturan pelaksananya baru terbit hampir 2 tahun kemudian, yaitu PP No. 33 Tahun 2026, yang ditetapkan 16 Juli 2026 dan mulai berlaku Januari 2027.
Untuk transfer data ke luar negeri, PP ini mengatur bahwa negara tujuan harus memiliki tingkat pelindungan yang setara atau lebih tinggi, dan penilaiannya dilakukan oleh Lembaga PDP (Pasal 165 dan 167). Akan tetapi lembaga ini sampai artikel ini ditulis belum terbentuk, Perpres-nya masih menunggu penetapan Presiden. Sehingga aturannya sudah ada, tetapi belum ada yang bisa menjalankannya.
Dampaknya di lapangan seperti ini. Coba tanyakan ke tim legal: seperti apa transfer data ke luar negeri yang sesuai aturan? Kemungkinan besar jawabannya akan sangat hati-hati, karena memang belum ada yang bisa memastikan negara mana saja yang dianggap setara. Jawaban yang hati-hati biasanya cenderung memilih yang paling aman, yaitu data tidak keluar dari Indonesia.
Jawaban ini kemudian menjadi requirement ketika kita memilih vendor. Sehingga vendor global yang servernya di luar negeri pada umumnya sudah kalah di tahap requirement. Padahal sebenarnya tidak ada aturan yang melarang, dan juga tidak ada meeting yang memutuskan untuk tidak memakai vendor global. Keputusannya terjadi dengan sendirinya, karena setiap orang yang terlibat memilih yang paling aman untuk bagiannya masing-masing.
Di sektor finansial aturannya lebih jelas lagi: POJK 11/2022 mewajibkan bank menempatkan data center utama dan data center backup-nya di dalam wilayah Indonesia. Berarti untuk use case di sektor ini, keputusan build vs buy seringkali sudah ditentukan oleh regulasi, bahkan sebelum kita sempat membandingkan demo dari para vendor.
Saran saya, bahas hal ini dengan tim legal di awal, sebelum proof of concept dimulai. Karena apabila baru dibahas setelah proof of concept selesai, biasanya arsitekturnya harus diubah cukup banyak, misalnya dari API vendor global menjadi model yang dijalankan di server dalam negeri, yang mana cost, kualitas model, dan timeline-nya semua ikut berubah. Sehingga effort yang sudah dikeluarkan untuk proof of concept tadi sebagian besar harus dikerjakan ulang.
Mana Yang Bisa Langsung Dipakai dan Mana Yang Perlu Diadjust?
Setelah membahas semua itu, mungkin ada godaan untuk tidak menggunakan playbook dari San Francisco sama sekali. Menurut saya itu berlebihan, karena justru metode di dalamnya merupakan bagian yang paling berharga.
Yang bisa langsung dipakai di sini antara lain: cara melakukan evaluasi dengan objektif (misalnya dengan membuat golden set), cara membuat guardrail dan monitoring, kemampuan untuk kill product yang tidak menghasilkan dampak ke bisnis, dan juga kebiasaan untuk launch secara bertahap sambil terus mendapatkan feedback dari user.
Golden set adalah kumpulan contoh kasus nyata beserta jawaban yang sudah disepakati benar, yang dipakai sebagai standar untuk mengevaluasi sistem AI secara konsisten.
Hampir semua angkanya perlu diadjust. Cost, karena komponennya dalam dolar. Orang, karena di San Francisco bisa merekrut specialist yang sudah 5 tahun fokus di 1 bidang, sedangkan di sini yang paling susah dicari justru orang yang pernah membawa sistem AI ke production, bertanggung jawab ketika ada masalah, dan berani memutuskan untuk kill product-nya ketika unit economic-nya tidak sehat. Channel juga, karena 9 dari 10 pengguna media sosial di Indonesia menggunakan WhatsApp setiap bulan, sehingga sistem yang dibangun untuk email tidak akan sesuai dengan tempat volume percakapan sebenarnya terjadi.
Di sisi lain, sebenarnya di sini juga ada hal yang positif untuk kita. Dalam waktu dekat, model AI yang dipakai semua orang kemungkinan besar akan mirip-mirip. Perbedaannya nanti lebih ke seberapa dalam kita mengerti konteks di mana model tersebut dipakai: bahasa campurannya, channel-nya, regulasinya, sampai kursnya. Pemahaman seperti ini tidak bisa didapatkan dengan cepat oleh pemain dari luar. Sehingga hal-hal yang tadinya terlihat seperti kekurangan, sebenarnya juga bisa menjadi competitive advantage untuk kita yang memang beroperasi di sini.
Demikianlah gambaran singkat kenapa playbook AI dari San Francisco perlu diadjust sebelum dipakai di Jakarta. Teknologinya memang sama, akan tetapi asumsi bisnis di bawahnya cukup banyak yang berbeda. Tentunya banyak hal di artikel ini yang oversimplification, dan mungkin masih banyak hal lain lagi yang tidak dibahas di sini, karena kondisi setiap perusahaan sangat case by case.
Apabila artikel ini mendapatkan cukup banyak response, mungkin saya akan menulis lebih lanjut terkait cara membuat evaluasi bahasa Indonesia untuk sistem AI, mulai dari golden set sampai quality loop-nya.