Persaingan perangkat keras untuk menjalankan model bahasa besar (LLM) secara lokal kini tidak lagi didominasi oleh produsen besar. Produsen cip asal Tiongkok, Axera, resmi mengumumkan lini prosesor terbarunya, Axera AX8860P. Cip ini dirancang khusus untuk mengisi ceruk compact AI computer atau mini PC berkinerja tinggi. Pasar AI lokal semakin panas. Pabrikan perangkat seperti Sipeed bahkan mengeklaim bahwa produk Sipeed MaixStation garapan mereka yang ditenagai cip ini sanggup melampaui performa Nvidia DGX Spark pada skenario pengujian tertentu.
Langkah ini memperjelas arah industri hardware pemrosesan kecerdasan buatan yang mulai bergeser ke efisiensi bandwidth dan akselerasi spesifik. Axera AX8860P memadukan 16 core CPU Arm Cortex-A55 dengan unit pemroses khusus bernama AXNeutron NPU. Kombinasi ini diklaim sanggup menyuplai daya pemrosesan hingga 256 TOPS pada format FP4. Angka di atas kertas ini impresif untuk sebuah sasis mini.
Arsitektur AXNeutron dan Spesifikasi Kunci Axera AX8860P
Jantung utama dari Axera AX8860P terletak pada arsitektur AXNeutron NPU milik Axera. Berbeda dengan pendekatan GPU Nvidia Blackwell pada DGX Spark, AXNeutron menggunakan desain programmable dataflow yang dirancang dari nol khusus untuk inferensi model AI berbasis Transformer. Pendekatan ini bertujuan memaksimalkan pemanfaatan perangkat keras sekaligus memangkas lalu lintas data yang tidak perlu antara memori dan unit pemroses.
Prosesor ini diproduksi melalui fabrikasi 6 nm. Axera melengkapinya dengan dukungan memori LPDDR5X hingga kapasitas LPDDR5X 128GB melalui antarmuka 256-bit. Konfigurasi tersebut menghasilkan bandwidth memori maksimum hingga 273 GB/s. Kecepatan transfer data yang tinggi sangat krusial agar model AI tidak mengalami bottleneck. Selain memori kencang, prosesor ini juga dibekali konektivitas PCIe 5.0, interkoneksi chip-to-chip AXLink, serta kemampuan encoding dan decoding video yang lengkap.
Menguji Klaim Performa Sipeed MaixStation Melawan Nvidia
Pabrikan perangkat Sipeed memanfaatkan keunggulan spesifikasi ini untuk menggarap Sipeed MaixStation. Pihak pabrikan mengeklaim bahwa akselerasi native FP4 dan pemanfaatan bandwidth memori pada AX8860P membuat perangkat tersebut mampu melampaui Nvidia DGX Spark dalam beberapa pengujian inferensi LLM lokal. Akselerasi FP4 yang rapat memang membantu mengeksekusi parameter model dalam ukuran memori yang lebih efisien.
Namun, data pengujian tersebut berasal dari pihak internal produsen. Pengujian dilakukan pada model dan konfigurasi kuantisasi spesifik. Tanpa pengujian independen memakai lingkungan perangkat lunak dan parameter yang identik, sulit membuktikan apakah Axera AX8860P mampu mengungguli Nvidia secara konsisten. Namun, pengujian nyata adalah kuncinya. Dari sisi dukungan perangkat lunak, Axera menjanjikan kompatibilitas dengan ekosistem populer seperti PyTorch, vLLM, dan SGLang.
Menimbang Rasio Harga dan Opsi Pemrosesan AI Lokal
Sipeed berencana meluncurkan Sipeed MaixStation dalam dua varian memori terintegrasi, yaitu 32GB dan LPDDR5X 128GB. Varian 32GB ditargetkan dijual dengan harga di bawah Rp35,4 jutaan ($2,000). Sementara itu, versi tertinggi dengan LPDDR5X 128GB diproyeksikan berada di bawah Rp70,8 jutaan ($4,000). Opsi memori ini tergolong sangat besar. Kampanye peluncuran awal melalui platform Kickstarter dijadwalkan berlangsung mendekati akhir tahun 2026. Selain Sipeed, produsen lain seperti Radxa juga tengah menyiapkan lini Pocket Supercomputer berbasis AX8860P.
Berikut ringkasan spesifikasi teknis Axera AX8860P:
• Prosesor CPU: 16-core Arm Cortex-A55
• Unit NPU: AXNeutron NPU (256 TOPS FP4)
• Fabrikasi: 6 nm
• Kapasitas Memori: LPDDR5X hingga 128GB (Interface 256-bit)
• Bandwidth Memori: Hingga 273 GB/s
• Ekspansi & Interkoneksi: PCIe 5.0 dan AXLink chip-to-chip
• Dukungan Software: PyTorch, vLLM, SGLang
Kehadiran Axera AX8860P memberikan alternatif bagi pengembang yang membutuhkan server AI lokal berukuran ringkas berbentuk mini PC. Pasokan GPU komersial sering kali mahal dan terbatas. Pendekatan NPU mandiri dengan pasokan memori melimpah menjadi solusi logis bagi riset lokal.
