Komponen memori menyumbang 60 hingga 90 persen dari total biaya pengadaan server skala besar. AMD resmi menghadirkan solusi atas kendala finansial tersebut lewat integrasi teknologi Mext. Inovasi perangkat lunak ini memindahkan data yang jarang diakses dari DRAM ke SSD yang jauh lebih murah, sembari mengandalkan kecerdasan buatan untuk menjaga performa sistem tetap optimal.
Langkah ini menargetkan efisiensi infrastruktur data pusat berbasis prosesor AMD Epyc. Sebelum diakuisisi AMD pada Juni lalu, Mext terbukti sudah diterapkan pada 145 sistem dengan estimasi penghematan biaya memori mencapai Rp88,5 miliar ($5 juta). Solusi ini menjadi angin segar di tengah tingginya harga modul DRAM enterprise.
Prediksi Machine Learning Solusi Latensi SSD
Konsep memindahkan data RAM ke media penyimpanan sekunder sebenarnya bukan hal baru. Fitur seperti swap file atau page file pada Windows sudah lama melakukan fungsi serupa saat kapasitas memori fisik hampir habis. Namun, media penyimpanan berbasis flash storage memiliki kecepatan hingga 500 kali lebih lambat dibanding DRAM. Latensi tinggi ini biasanya memicu penurunan performa signifikan.
Mext mengatasi masalah tersebut secara agresif. Software ini memakai model machine learning berbasis arsitektur transformer. Tugasnya memprediksi halaman memori yang akan dibutuhkan aplikasi, lalu mengembalikannya ke DRAM sebelum aplikasi mengajukan permintaan data.
Riset ekosistem internal Meta menunjukkan fakta menarik. Sebanyak 50 hingga 80 persen halaman memori server rupanya tidak diakses sama sekali selama minimal lima menit. Data dingin ini membebani DRAM mahal secara sia-sia. Proses pelatihan awal model AI Mext hanya membutuhkan waktu kurang dari satu detik pada satu core CPU AMD Epyc. Pengolahan algoritma tersebut berjalan dinamis tanpa memerlukan bantuan GPU tambahan.
Hasil Benchmark PrimeTime dan Apache Spark
Dampak penerapan Mext bervariasi tergantung jenis beban kerja (workload) dan proporsi DRAM yang digantikan oleh SSD. Pada pengujian perangkat lunak simulasi elektronik Synopsys PrimeTime, Mext berhasil menggantikan 50 persen DRAM dengan SSD sambil mempertahankan 95 persen performa asli. Performa tidak merosot tajam.
Saat komposisi DRAM dikurangi hingga tinggal 25 persen dan SSD mengambil alih 75 persen sisanya, performa sistem masih terjaga di level 80 persen dari kondisi awal. Hasil yang lebih mengesankan terlihat pada pengujian framework pemrosesan data Apache Spark. Dalam skenario penggantian 50 persen DRAM dengan SSD, Mext sanggup mempertahankan 99 persen tingkat kinerja semula.
Overhead CPU Core dan Keterbatasan Virtualisasi
Kendati menawarkan efisiensi biaya yang masif, Mext membawa sejumlah catatan teknis. Pada lingkungan ter-virtualisasi, perangkat lunak ini membutuhkan alokasi khusus berupa satu core CPU untuk setiap virtual machine (VM) atau instansi virtual private cloud (VPC).
Aturan alokasi ini berpotensi memicu overhead kapasitas komputasi pada server yang menjalankan banyak VM sekaligus. AMD berencana melisensikan Mext melalui mitra OEM ternama seperti HPE khusus untuk ekosistem perangkat keras Epyc. Pengembang juga menyiapkan aplikasi pendamping bernama RAM View untuk membantu pengelola data pusat memetakan server mana saja yang cocok menerapkan teknologi ini. Meski begitu, perincian harga lisensi dan jadwal peluncuran publik belum diumumkan resmi.
Efisiensi Biaya Server AI Masa Depan
Pendekatan cerdas AMD melalui Mext membuktikan bahwa optimasi alokasi perangkat keras tidak selalu bertumpu pada penambahan fisik RAM. Bagi pengelola data pusat atau perakit sistem workstation enterprise, teknologi ini menawarkan opsi efisiensi yang sangat rasional antara biaya operasional dan performa komputasi.
• Kelebihan Utama: Menekan kebutuhan DRAM hingga 50 persen dengan degradasi performa minimal, tidak membutuhkan akselerator GPU untuk pengolahan AI, serta telah teruji menghemat biaya operasional memori dalam skala besar.
• Catatan Kunci: Membutuhkan alokasi dedicated satu core CPU per VM pada lingkungan virtualisasi dan eksklusif untuk platform hardware AMD Epyc.
