6 Mini PC Terbaik untuk AI Lokal, Hasil Meta-Review dari Berbagai Tech Reviewers

Menjalankan AI sendiri di rumah lewat Ollama atau LM Studio makin banyak dilirik orang Indonesia. Begitu masuk ke urusan perangkat, kamu akan menemukan banyak sekali angka yang beredar, dan tidak semuanya bisa langsung dibandingkan satu sama lain.

Jadi Jaka menyusun meta-analisis. Jaka kumpulkan hasil pengujian dari sumber-sumber terbaik yang sudah menjalankan sendiri model AI di perangkatnya, lalu memberi bobot pada tiap sumber berdasarkan kredibilitas dan kedalaman pengujiannya.

Hasilnya ada di bawah: metodologi penilaian, peringkat konsensus, skor berbobot, tabel perbandingan, dan harga pasaran Indonesia yang ternyata menyimpan kejutan besar.

Cara Jaka Menilai: Metodologi Meta-Review

Sebelum menilai sumbernya, Jaka harus menjawab satu pertanyaan dulu: apa yang bikin sebuah pengujian pantas dipercaya?

Gampangnya sih lihat nama besarnya saja. Tapi buat menggabungkan data, yang dicari beda: angka ini bisa diadu dengan angka dari tempat lain atau tidak? Angka yang tidak jelas asal-usulnya tidak bisa dibandingkan dengan apa pun, sebesar apa pun nama yang memuatnya.

Jadi Jaka pecah penilaiannya jadi lima hal yang berdiri sendiri:

Hasil delapan sumbernya begini:

Dua hal langsung kelihatan dari tabel itu, dan dua-duanya mengubah cara Jaka membaca data selanjutnya.

Pertama, urutannya kebalik dari dugaan awal. Kumpulan data kyuz0 yang digarap satu orang malah duduk di posisi teratas, di atas media penguji profesional. Sebabnya sederhana: dia buka data mentah lima backend, diulang tiga kali, lengkap sampai parameter kernel yang dipakai. Siapa pun bisa mengulang pengujiannya persis. Untuk urusan menggabungkan angka, keterbukaan cara kerja ternyata lebih berharga daripada besarnya nama.

Kedua, dan ini yang lebih penting buat kamu, tidak ada satu sumber pun yang jago di semua pertanyaan. Skor total malah menutupi kenyataan itu. Mau tahu seberapa kencang? Sumber terbaiknya kyuz0 dan komunitas llama.cpp. Ganti pertanyaannya jadi seberapa panas, berisik, dan boros listrik, jawabannya pindah ke ServeTheHome, Notebookcheck, dan Level1Techs, karena cuma mereka yang sampai menempelkan alat ukur ke mesinnya.

Notebookcheck contoh paling jelas. Skor totalnya cuma 8, nomor dua dari bawah, padahal pengujiannya sama sekali tidak asal. Mereka mengukur suhu dan kebisingan dengan rapi, cuma memang tidak pernah menerbitkan angka token per detik. Buat urusan kecepatan, sumber ini lewat. Buat urusan kebisingan, dia justru salah satu yang terkuat.

Makanya tiap angka di artikel ini diambil dari sumber yang paling kuat untuk pertanyaannya masing-masing. Skor total sengaja tidak dipakai sebagai penentu tunggal.

Hasil Konsensus dan Skor Berbobot

Peringkat pertama dihitung dari jumlah sumber independen yang menguji perangkat tersebut. Peringkat kedua memakai bobot tadi, sehingga satu pengujian dari lab sungguhan bernilai lebih besar daripada beberapa kesaksian singkat.

Dua nama teratas datang dari dunia yang berbeda. GMKtec EVO-X2 mewakili kelas Strix Halo dengan memori terpadu 128GB, sementara Mac mini M4 mewakili kelas hemat daya yang jauh lebih terjangkau.

Peringkat ini berguna, tapi ada yang lebih berharga. Saat semua data dari delapan sumber itu ditumpuk jadi satu, muncul pola yang tidak kelihatan dari satu review saja.

Temuan yang Cuma Muncul Setelah Semua Data Digabung

Jaka mengumpulkan angka gpt-oss-120b dari empat pengujian di chip yang sama persis, Ryzen AI Max+ 395. Hasilnya begini:

Chip yang sama, selisih 1,8 kali lipat. Yang berubah cuma sistem operasi dan perangkat lunaknya.

Sekarang bandingkan tiga sumber pengaruh itu berdampingan, semuanya dari data yang sudah dikumpulkan tadi:

Ini yang bikin Jaka mengubah cara membaca seluruh daftar di atas. Memilih model yang tepat berdampak jauh lebih besar daripada memilih mesin yang tepat. Perangkat kerasnya justru variabel paling kecil dari ketiganya.

Jadi peringkat konsensus tadi masih kepakai buat menyaring mesin mana yang sudah teruji, cuma jangan dijadikan penentu utama. Salah pilih jenis model, mesin Rp100 juta pun bisa terasa lebih lambat daripada Mac mini yang menjalankan model yang tepat.

Konsekuensi lain yang sama pentingnya: angka token per detik dari dua review berbeda hampir tidak pernah bisa langsung diadu, kecuali keduanya menyebut model, kuantisasi, dan backend yang sama. Selisih 1,8 kali di tabel pertama tadi lahir dari perbedaan kondisi pengujian, sementara kualitas mesinnya praktis sama.

Model Mana yang Sebaiknya Kamu Jalankan?

Karena jenis model dampaknya paling besar, bagian ini yang sebaiknya kamu putuskan duluan, sebelum memikirkan mesin. Berikut semua angka yang berhasil Jaka kumpulkan, diurutkan dari yang paling kencang:

Ada pola tegas di tabel itu. Semua model MoE duduk di atas 50 token/detik, sedangkan semua model dense di atas 27 miliar parameter jatuh ke bawah 12 token/detik. Padahal sebagian dijalankan di mesin yang sama persis.

Buat gambaran, kecepatan sekitar 20 token per detik kira-kira setara kecepatan orang membaca. Di atas itu jawabannya terasa mengalir, di bawah itu kamu mulai menunggu. Pakai patokan itu untuk membaca ulang tabelnya.

Jadi urutan mikirnya begini: tentukan dulu model yang mau kamu pakai, cek berapa memori yang dia butuhkan, baru cari mesin yang memorinya cukup. Bukan sebaliknya.

Jalur Memilih Berdasarkan Isi Dompet

Sekarang gabungkan semuanya jadi keputusan yang bisa kamu ambil hari ini.

Satu peringatan yang jatuh langsung dari data tadi, dan ini yang paling sering bikin orang menyesal. Jangan menebus mesin 128GB seharga puluhan juta cuma untuk menjalankan model dense ukuran 30-an miliar. Hasilnya sekitar 9 token per detik, jauh di bawah kecepatan membaca, dan Mac mini M4 seharga Rp9.999.000 justru memberi 24 token per detik pada model 7B. Mesin mahalnya tidak salah, modelnya yang salah pilih.

Mesin 128GB baru sepadan kalau yang kamu kejar memang model MoE besar seperti gpt-oss-120b, karena model itu tidak akan muat di mana pun selain di memori sebesar itu.

Tabel Perbandingan Mini PC untuk AI Lokal

Semua angka di bawah ini hasil pengukuran, bukan klaim pabrikan. Model yang diuji tiap sumber beda-beda, jadi jangan langsung diadu mentah-mentah.

1. GMKtec EVO-X2, Skor Konsensus Tertinggi

Perangkat ini paling banyak diuji sumber independen, dan hasilnya konsisten. Dengan prosesor Ryzen AI Max+ 395 dan memori terpadu 128GB, EVO-X2 sanggup memuat model yang tidak mungkin masuk ke perangkat biasa.

Angka pengujiannya lengkap: gpt-oss-120b berjalan 46,05 token per detik lewat llama.cpp dengan ROCm, gpt-oss-20b mencapai 65,73 token per detik, dan Qwen3-Coder-30B-A3B pada kuantisasi Q8 menghasilkan 50,16 token per detik.

Dari pengujian yang sama, memakai Ollama model gpt-oss-120b hanya menghasilkan 33,05 token per detik, turun jauh dibanding llama.cpp. Model dense qwen3:32b bahkan cuma 9,43 token per detik. Pilihan perangkat lunak berpengaruh besar di sini.

Jaka sempat berhenti dan membaca ulang dua angka itu. Model MoE 120 miliar parameter berjalan 46 token per detik, sementara model dense 32 miliar cuma 9,4 token per detik, padahal ukurannya hampir empat kali lebih kecil. Jadi arsitektur model lebih menentukan daripada jumlah parameternya, karena MoE hanya mengaktifkan sebagian kecil parameter untuk tiap token.

• Kelebihan: memori 128GB memuat model besar, hasil pengujian paling banyak dikonfirmasi sumber lain.
• Kekurangan: harga di Indonesia sangat tinggi karena jalur impor, garansi bukan dari pabrikan.

2. Mac mini M4, Paling Masuk Akal untuk Kebanyakan Orang

Skornya sama dengan EVO-X2, tapi kelasnya berbeda jauh. Mac mini M4 diuji komunitas llama.cpp dengan cara pengujian yang seragam, hasilnya 24,11 token per detik untuk Llama-2 7B di kuantisasi Q4. Pengujian lain mencatat 41,31 token per detik untuk Llama 3.2 3B yang lebih ringan.

Yang membuatnya menonjol untuk pembaca Indonesia adalah statusnya. Mac mini satu-satunya perangkat di daftar ini yang bisa dibeli lewat jalur resmi dengan garansi Indonesia, dan harganya jauh di bawah mesin Strix Halo mana pun.

• Kelebihan: garansi resmi Indonesia, hemat daya, harga paling terjangkau di daftar ini.
• Kekurangan: kapasitas memori terbatas, kurang cocok untuk model besar.

3. Minisforum MS-S1 Max, Paling Lengkap Data Termalnya

Diuji ServeTheHome dan Notebookcheck. Konsumsi dayanya sekitar 120W saat menjalankan inferensi AI, dengan tingkat kebisingan 43 dBA pada mode performa. Saat menganggur hanya 9 sampai 12W.

Angka daya ini penting buat kamu yang berencana menyalakan perangkat 24 jam, apalagi dengan tarif listrik yang dibahas di bagian bawah.

• Kelebihan: data termal dan konsumsi daya paling lengkap di antara pesaingnya.
• Kekurangan: harga impor tinggi, kebisingan jadi catatan penguji.

4. Framework Desktop, Angka Tertinggi yang Terukur

Angka tercepat dari seluruh data yang Jaka kumpulkan justru datang dari sini: 56,61 token per detik untuk gpt-oss-120b, diukur dengan llama.cpp memakai Vulkan RADV di Linux yang sudah dioptimalkan. Data mentahnya dipublikasikan lengkap dengan lima backend dan tiga kali pengulangan.

Dari kumpulan data yang sama muncul temuan paling berguna di artikel ini. Model MoE berukuran 120B berjalan 56,61 token per detik, sedangkan model dense 31B yang jauh lebih kecil malah cuma 11,45 token per detik, dan model dense 27B pada Q8 hanya 6,51 token per detik.

• Kelebihan: performa tertinggi yang terukur, data pengujian paling transparan.
• Kekurangan: belum ada jalur pembelian resmi di Indonesia.

5. Beelink GTR9 Pro, Korban Salah Baca Angka

Jaka hampir memasukkan angka 31,41 token per detik milik Beelink GTR9 Pro ke tabel konsensus. Angkanya beredar luas dan kelihatan meyakinkan. Untung sebelum final Jaka cek catatan metodologinya, dan di situ masalahnya ketahuan.

Angka itu diukur di Windows memakai LM Studio dengan pengaturan bawaan. Perangkat keras Strix Halo yang sama, setelah dioptimalkan di Linux, mencapai sekitar 56 token per detik. Selisihnya hampir dua kali lipat, murni karena siapa yang mengukur dan bagaimana caranya.

Momen hampir salah itu yang bikin Jaka makin yakin dengan aturan tadi. Kalau satu angka bisa menyesatkan sehalus itu, angka mana pun yang datang tanpa konteks metodologi layak kamu curigai.

• Kelebihan: perangkat keras setara pesaingnya di kelas Strix Halo.
• Kekurangan: harga Indonesia belum terverifikasi, dan reputasi angkanya terlanjur dibentuk pengujian Windows.

Kelas Terjangkau untuk Model Kecil

Kalau targetmu hanya model 3B sampai 8B, kelas ini sudah cukup dan harganya masuk akal. Jaka tidak menemukan pengujian LLM independen untuk perangkat-perangkat ini, jadi anggap daftarnya sebagai acuan harga, bukan acuan performa.

Untuk pilihan lebih luas di kelas harga ini, lihat rekomendasi mini PC terbaik dari JalanTikus.

Jebakan Angka NPU dan "50 TOPS"

Setiap perangkat baru mengiklankan NPU dengan angka "50 TOPS" yang terdengar mengesankan. Sayangnya, untuk menjalankan model bahasa dengan alat yang umum dipakai, NPU itu nyaris tidak tersentuh.

Ollama tidak punya dukungan NPU sama sekali; permintaan fiturnya masih terbuka dan belum pernah dirilis. LM Studio juga tidak punya runtime NPU, semua mesinnya bergantung pada CPU, GPU, atau Apple MLX. Bahkan llama.cpp belum bisa memakai NPU AMD. Yang paling telak, MLX buatan Apple sendiri menolak mendukung Apple Neural Engine, dengan alasan API-nya tertutup.

Untuk memahami kenapa, kamu perlu tahu cara AI menjawab. Ada dua fase. Fase prefill saat komputer membaca pertanyaanmu, dan fase decode saat komputer menulis jawaban kata demi kata. Bayangkan prefill itu membaca soal ujian, sedangkan decode itu menulis esai jawabannya.

Pabrikan chip sendiri mengakui keterbatasan ini. Dokumentasi developer AMD menyatakan fase prefill memang cocok untuk NPU, sedangkan fase decode justru dijalankan di grafis terintegrasi. Jadi AMD, perusahaan yang menjual NPU 50 TOPS, sengaja mengarahkan fase menulis jawaban menjauh dari NPU buatannya sendiri.

Ada juga laporan pengujian di prosesor Intel Core Ultra 9 288V yang menunjukkan NPU kalah dari CPU. Menjalankan Llama 3.2 3B dan Llama 2 7B, rata-rata waktu prosesnya 6,1 detik di CPU, sedangkan di NPU malah 9,4 detik. Laporan itu ditindaklanjuti langsung oleh tim Intel di repositori resmi OpenVINO.

Supaya adil, jalur NPU yang berfungsi memang ada di AMD, namanya hybrid mode. Tapi jalurnya sempit: hanya di Windows, khusus seri Ryzen AI 300, hanya memakai model ONNX bawaan AMD, dan mentok di model sekitar 8 miliar parameter. Model GGUF yang dipakai Ollama tidak didukung di jalur itu.

Yang Sebenarnya Menentukan Kecepatan: Bandwidth Memori

Kalau TOPS tidak menentukan kecepatan, lalu apa? Jawabannya bandwidth memori, yaitu seberapa cepat data dibaca dari memori. Angka ini berkorelasi hampir lurus dengan kecepatan menghasilkan token.

Perhatikan data dari pengujian yang sama, Llama-2 7B dengan kuantisasi Q4:

Bandwidth naik sekitar dua kali lipat, kecepatan ikut naik hampir dua kali lipat. Angka TOPS tidak memprediksi apa pun di tabel itu, sementara angka bandwidth memprediksi hampir semuanya.

Sebabnya, tiap kali menulis satu kata jawaban, komputer harus membaca ulang bobot model dari memori, diulang terus untuk kata berikutnya. Selama model muat di memori, penghambat utamanya adalah kecepatan memori, sementara kemampuan komputasi mentah kurang berpengaruh.

Berapa RAM yang Kamu Butuhkan?

RAM itu syarat mati. Modelnya harus muat di memori, kalau tidak ya tidak jalan sama sekali. Patokan kasarnya, dengan kuantisasi Q4, model 7-8 miliar parameter butuh sekitar 5-6GB, model 30B MoE butuh sekitar 18-20GB, dan model sangat besar butuh jauh lebih banyak.

Ada catatan soal alokasi memori. Apple dengan Metal menyediakan sekitar 75 persen RAM terpadu untuk GPU secara bawaan. Di sisi Intel, driver Arc terbaru memungkinkan menaikkan memori GPU bersama dari bawaan 57 persen hingga 87 persen dari total RAM sistem.

Yang paling menentukan tetap jenis modelnya, seperti kelihatan di data Framework Desktop tadi. Model MoE jauh lebih ringan dibanding model dense yang ukurannya mirip. Jadi lihat arsitekturnya dulu, karena jumlah parameter saja sering menyesatkan.

Realita Harga dan Garansi di Indonesia

GMKtec EVO-X2 dengan memori 128GB dijual sekitar 1.800 sampai 2.000 dolar AS di pasar global, atau kira-kira Rp30 jutaan. Cek listing-nya di marketplace lokal, angkanya melompat ke Rp75 juta sampai Rp112 juta.

Biar terasa besarannya: satu unit EVO-X2 pada harga lokal termurah setara dengan tujuh unit Mac mini M4 seharga Rp9.999.000, dan masih bersisa untuk monitor. Penyebabnya hampir semuanya barang impor perorangan atau dropship, di luar jalur distribusi resmi, dengan bea masuk dan margin penjual sudah tertanam di harga.

Statusnya perlu kamu sadari. Sejauh penelusuran Jaka, belum ada distribusi resmi pabrikan untuk mini PC Strix Halo di Indonesia. Toko yang menyebut diri "official" di marketplace tetap memberikan garansi toko, artinya kamu tidak bisa langsung datang ke service center resmi pabrikan saat ada masalah.

Mac mini satu-satunya di daftar ini yang bisa dibeli dengan garansi resmi Indonesia lewat iBox. Per listing saat ini, Mac mini M4 16GB/256GB ada di kisaran Rp9.999.000, sedangkan M4 Pro 24GB/512GB di kisaran Rp31.999.000. Harga Apple cukup sering berubah, jadi tetap cek langsung sebelum memutuskan.

Berniat impor sendiri? Perhitungkan dulu bea masuknya. Batas nilai barang kiriman bebas bea kini hanya 3 dolar AS per pengiriman, dan di atas itu sampai 1.500 dolar AS dikenakan bea masuk 7,5 persen ditambah PPN 12 persen.

Dua faktor lokal lain jarang dihitung orang. Harga RAM sedang naik tajam; pedagang di ITC Jakarta melaporkan DDR5 16GB bergerak dari sekitar Rp1,9 juta ke Rp2,9 juta. Lalu ada biaya listrik kalau perangkat menyala terus, dengan tarif PLN golongan R-1/TR 1.300 VA di angka Rp1.444,70 per kWh. Perangkat yang menyedot 120W nonstop akan terasa di tagihan.

Sebagian pengguna Indonesia justru menempuh jalur berbeda: merakit PC dengan GPU bekas. Ada catatan build lokal memakai Nvidia Tesla P4 seharga sekitar Rp2,3 juta karena dayanya hanya 75W, dan panduan rakitan lokal yang menempatkan RTX 3090 24GB bekas sebagai pilihan kelas atas. Buat kamu yang tujuannya menjalankan model besar dengan biaya masuk akal, jalur ini layak dibandingkan sebelum menebus mini PC impor.

Sebelum Beli, Coba Dulu yang Kamu Punya

Setelah semua angka di atas, Jaka tetap menyarankan langkah paling murah lebih dulu. Model kecil seperti Llama 3.2 3B atau model 7B tidak seberat yang dibayangkan, dan laptop dengan RAM 16GB umumnya sudah sanggup menjalankannya.

Unduh Ollama, jalankan model 3B, lihat hasilnya. Ternyata sudah cukup? Kamu baru saja menghemat puluhan juta rupiah. Perangkat kelas 128GB baru masuk akal kalau kamu rutin menjalankan model besar setiap hari, butuh privasi data yang ketat, atau bekerja tanpa internet.

FAQ

1. Apakah NPU di laptop baru berguna untuk AI lokal?

Untuk alat umum seperti Ollama dan LM Studio, NPU belum terpakai. Keduanya tidak mendukung NPU, dan fase menulis jawaban berjalan di GPU atau CPU. NPU baru berguna di skenario sempit, seperti model ONNX bawaan AMD di Windows.

2. Berapa RAM minimal untuk menjalankan Ollama?

Untuk model 3B, RAM 8GB masih memungkinkan meski terasa ketat. Untuk model 7-8B yang lebih umum, modelnya saja butuh sekitar 5-6GB, jadi RAM sistem 16GB adalah titik yang nyaman.

3. Kenapa harga mini PC AI di marketplace lokal mahal sekali?

Karena hampir semuanya barang impor perorangan atau dropship, dengan bea masuk dan margin penjual tertanam di harga. Perangkat yang di pasar global sekitar Rp30 jutaan bisa muncul di kisaran Rp75 juta sampai Rp112 juta, dan garansinya pun garansi toko.

4. Kenapa angka token per detik antar review beda jauh?

Karena sistem operasi, backend, dan pengaturan berpengaruh besar. Perangkat Strix Halo yang sama menghasilkan 31,41 token per detik di Windows dengan LM Studio, tapi sekitar 56 token per detik di Linux yang dioptimalkan. Selalu cek model, kuantisasi, dan backend yang dipakai penguji.

5. Kenapa modelnya jalan tapi lambat sekali?

Kemungkinan besar modelnya terlalu besar untuk bandwidth memori perangkatmu, atau kamu memakai model dense. Model dense 27B saja bisa turun ke 6,51 token per detik di perangkat yang sanggup menjalankan model MoE 120B pada 56 token per detik.

Akhir Kata

EVO-X2 memang memimpin skor konsensus, dan secara teknis mesinnya luar biasa. Tapi di Indonesia harganya melambung dua setengah sampai empat kali lipat dari harga global, dan yang kamu dapat cuma garansi toko. Untuk kebanyakan pembaca, itu pertaruhan yang tidak sepadan.

Jadi rekomendasi Jaka untuk pembaca Indonesia jatuh ke Mac mini M4. Perangkatnya resmi, garansinya iBox, harganya Rp9.999.000, dan performanya lebih dari cukup untuk model 3B sampai 8B yang jadi kebutuhan mayoritas orang. EVO-X2 baru masuk akal kalau kamu rutin menjalankan model raksasa, siap repot mengimpor sendiri, dan rela garansinya sebatas kepercayaan ke penjual.

Satu patokan terakhir yang layak kamu bawa: bandwidth memori dan kapasitas RAM menentukan pengalamanmu, sementara angka TOPS di brosur tidak memprediksi apa pun untuk pekerjaan ini. Dan sebelum menebus perangkat puluhan juta, coba dulu di komputer yang sudah kamu miliki.

Baca artikel dan berita menarik dari JalanTikus lainnya di Google News