General Compute Kumpulkan Modal Rp1,6 Triliun, Tantang Dominasi Nvidia di Pasar Inferensi AI

General Compute baru saja mengamankan pendanaan Seri A sebesar $100 juta atau sekitar Rp1,6 triliun. Langkah ini menjadi sinyal bahwa investor masih percaya pada masa depan infrastruktur AI di luar ekosistem Nvidia, khususnya untuk kebutuhan inferensi. Perusahaan ini memilih jalur berbeda dengan bertaruh pada chip inferensi dari produsen non-Nvidia, sebuah strategi yang justru kontrarian di tengah narasi suram tentang bisnis neocloud yang belakangan banyak dibicarakan.

Pendanaan sebesar itu bukan angka kecil, terutama ketika beberapa pemain neocloud lain disebut-sebut mengalami kesulitan. General Compute seolah ingin membuktikan bahwa cerita suram tersebut tidak berlaku universal. Mereka fokus pada segmen inferensi, yakni proses menjalankan model AI yang sudah terlatih untuk melayani permintaan pengguna. Segmen ini diperkirakan akan tumbuh pesat seiring makin banyaknya perusahaan yang mengadopsi AI dalam operasional sehari-hari.

Mengapa Inferensi Jadi Taruhan Utama

Selama ini, perhatian publik memang lebih tersedot ke pelatihan model besar yang membutuhkan ribuan GPU Nvidia. Padahal, begitu model selesai dilatih, biaya terbesar justru muncul saat model itu digunakan untuk melayani pengguna. Di sinilah inferensi memainkan peran krusial. General Compute melihat celah bahwa pelanggan mungkin tidak selalu membutuhkan chip tercepat atau termahal, tetapi solusi yang efisien secara biaya untuk menjalankan model secara konsisten.

Dengan memilih chip dari luar ekosistem Nvidia, General Compute bisa menawarkan harga yang lebih kompetitif. Ini bukan tanpa risiko, karena ekosistem perangkat lunak Nvidia (CUDA) sudah sangat mapan. Namun, semakin banyak alternatif chip inferensi yang matang, peluang untuk mematahkan dominasi itu semakin terbuka. Perusahaan seperti Groq, Cerebras, dan sejumlah startup chip lainnya telah menunjukkan bahwa ada ruang untuk bersaing di segmen ini.

Pelajaran dari Kisruh Neocloud

Narasi tentang "neocloud disaster" muncul setelah beberapa penyedia layanan cloud khusus AI dilaporkan kesulitan mendapatkan pelanggan atau malah tumbang. General Compute tampaknya belajar dari situasi tersebut. Mereka tidak sekadar menyewakan GPU, tetapi membangun layanan yang lebih terintegrasi dengan kebutuhan inferensi pelanggan. Pendekatan ini sejalan dengan tren yang terlihat di pasar, di mana pengguna increasingly mencari solusi yang siap pakai dan tidak ingin direpotkan dengan urusan teknis.

Menariknya, langkah General Compute ini juga mengingatkan pada strategi beberapa perusahaan besar yang mulai mendiversifikasi sumber chip mereka. Sebut saja langkah SpaceX yang mengunci pendanaan GPU raksasa, atau bagaimana perusahaan seperti Anthropic dan OpenAI mulai mencari alternatif untuk mengurangi ketergantungan pada satu vendor. Diversifikasi pasokan chip menjadi kian penting di tengah ketidakpastian geopolitik dan permintaan yang meledak.

Dampak bagi Ekosistem AI Indonesia

Bagi Indonesia, perkembangan ini sebenarnya relevan meskipun tidak secara langsung. Pertama, persaingan di pasar chip inferensi dapat menurunkan biaya komputasi AI secara global. Jika biaya inferensi turun, adopsi AI di perusahaan Indonesia, terutama startup yang sensitif terhadap biaya, akan semakin terjangkau. Kedua, model bisnis General Compute yang fokus pada efisiensi bisa menjadi contoh bagi penyedia layanan cloud lokal yang ingin menyasar segmen serupa.

Selain itu, kisah pendanaan ini menunjukkan bahwa investor masih melihat peluang besar di infrastruktur AI, asalkan ada diferensiasi yang jelas. Startup Indonesia yang bergerak di bidang infrastruktur atau layanan AI bisa mengambil pelajaran: tidak perlu bersaing langsung di area yang sudah dikuasai pemain besar, tetapi carilah ceruk yang belum tergarap optimal, seperti inferensi untuk industri vertikal atau layanan AI dengan kebutuhan spesifik.

Tentu saja, tantangan terbesarnya adalah membangun ekosistem perangkat lunak yang compatible dengan chip non-Nvidia. Di sinilah peran komunitas open source dan pengembang lokal bisa dimanfaatkan. Jika ekosistem alternatif semakin matang, adopsi di Indonesia juga akan lebih mudah karena tidak lagi terikat pada satu teknologi proprietary.

Masa Depan yang Belum Sepenuhnya Cerah

Meskipun pendanaan ini memberi angin segar, bukan berarti jalan General Compute akan mulus. Mereka harus membuktikan bahwa chip inferensi non-Nvidia benar-benar mampu bersaing dalam hal performa dan keandalan. Selain itu, raksasa seperti Nvidia juga tidak tinggal diam; mereka terus berinovasi dan memperluas ekosistem. Persaingan di pasar inferensi diprediksi akan semakin sengit dalam 1-3 tahun ke depan.

Bagi pelaku industri di Indonesia, perkembangan ini patut dicermati. Ketika biaya inferensi turun dan pilihan semakin beragam, peluang untuk membangun layanan AI yang lebih terjangkau dan spesifik akan terbuka lebar. Modernisasi alur kerja digital berbasis automasi seperti ini terbukti memangkas inefisiensi operasional secara drastis. Jika tim kamu sedang merencanakan arsitektur automasi sistem atau custom software serupa, kamu bisa menjadwalkan sesi konsultasi dan eksplorasi teknis langsung bersama para engineer di Rizallab.

Pada akhirnya, kisah General Compute adalah tentang keberanian melawan arus. Di saat banyak orang meragukan prospek neocloud, mereka justru melangkah dengan keyakinan bahwa inferensi adalah kunci. Apakah taruhan ini akan berbuah manis, waktu yang akan menjawab. Yang jelas, persaingan di ranah infrastruktur AI semakin menarik untuk diikuti, dan Indonesia sebaiknya tidak hanya menjadi penonton.