Jakarta – NVIDIA baru saja mengumumkan pencapaian signifikan dalam dunia teknologi dengan hasil benchmark MLPerf Inference v6.0. Melalui pendekatan desain ekstrem yang mengintegrasikan perangkat keras, perangkat lunak, dan model AI, NVIDIA berhasil mencetak throughput yang sangat tinggi sambil mengurangi biaya token secara drastis. Dalam pengujian terkini, GPU Blackwell Ultra menunjukkan performa luar biasa di berbagai model dan skenario, menegaskan dominasi NVIDIA di sektor ini. Dengan total 291 kemenangan MLPerf sejak tahun 2018, NVIDIA kini memiliki sembilan kali lipat lebih banyak kemenangan dibandingkan dengan semua pesaingnya. Partisipasi dari mitra juga mengalami lonjakan, dengan 14 perusahaan besar seperti Google Cloud, Dell, Cisco, Lenovo, dan Supermicro turut serta mengajukan hasil berbasis platform NVIDIA—mencetak rekor partisipasi terbanyak sepanjang sejarah benchmark ini.
Inovasi Melalui Kolaborasi
MLPerf kali ini tidak hanya menghadirkan hasil yang mencengangkan, tetapi juga memperkenalkan beberapa benchmark baru yang dirancang untuk menguji berbagai aspek performa AI. Di antara inovasi tersebut, terdapat DeepSeek-R1 Interactive yang meningkatkan interaktivitas, serta model multimodal visi-bahasa pertama yakni Qwen3-VL-235B-A22B. Selain itu, GPT-OSS-120B yang berbasis pada reasoning LLM dengan MoE dan WAN-2.2-T2V-A14B yang berfokus pada generasi teks-ke-video, juga menjadi bagian dari pengujian baru ini. DLRMv3, yang merupakan benchmark rekomendasi berbasis transformer, menambah variasi dalam pengujian yang dilakukan.
Performa GPU Blackwell Ultra
Sistem GB300 NVL72 dari NVIDIA berhasil mencatatkan performa yang luar biasa dengan throughput token yang 2,7 kali lebih tinggi dibandingkan enam bulan sebelumnya. Selain itu, biaya token juga berhasil diturunkan lebih dari 60%. Peningkatan ini tidak lepas dari optimasi perangkat lunak yang telah dilakukan, seperti penerapan TensorRT-LLM dan Dynamo. Dengan fitur-fitur baru yang ditawarkan seperti Wide Expert Parallel, Multi-Token Prediction, dan KV-aware routing, NVIDIA semakin memperkuat posisinya di industri ini.
Meningkatkan Kemampuan Scale-Out
NVIDIA tidak hanya fokus pada satu sistem, tetapi juga menunjukkan kemampuannya dalam skala yang lebih besar. Dengan menghubungkan empat sistem GB300 NVL72 menggunakan Quantum-X800 InfiniBand, NVIDIA mampu memproses jutaan token per detik. Ini menjadi submission terbesar dalam sejarah MLPerf, melibatkan 288 GPU Blackwell Ultra, yang menunjukkan betapa seriusnya NVIDIA dalam menguasai pasar AI.
Benchmark Baru dari MLCommons
Ke depan, NVIDIA bersama MLCommons tengah berkolaborasi untuk mengembangkan MLPerf Endpoints. Benchmark baru ini dirancang untuk lebih mencerminkan performa dunia nyata dengan fokus pada pengukuran trafik API, bukan sekadar metrik berbasis chip. Ini merupakan langkah maju yang signifikan dalam menciptakan standar yang lebih relevan dengan kebutuhan industri saat ini.
Strategi dan Pendekatan yang Menguntungkan
Pentingnya pendekatan extreme co-design yang diambil oleh NVIDIA tidak bisa dipandang sebelah mata. Integrasi yang erat antara perangkat keras dan perangkat lunak memungkinkan perusahaan untuk merespons kebutuhan pasar dengan cepat dan efisien. Dengan memanfaatkan inovasi terbaru, NVIDIA mampu tidak hanya meningkatkan performa, tetapi juga menjawab tantangan biaya yang dihadapi banyak perusahaan saat ini.
Keunggulan Kompetitif NVIDIA
Keberhasilan NVIDIA dalam MLPerf tidak hanya didorong oleh teknologi canggihnya, tetapi juga oleh ekosistem yang kuat yang dibangun bersama mitra-mitra strategis. Kerjasama dengan perusahaan-perusahaan terkemuka di industri teknologi memberikan keuntungan tambahan dalam hal pengembangan dan implementasi solusi AI yang lebih efisien. Dengan dukungan yang solid ini, NVIDIA mampu mempertahankan posisinya sebagai pelopor dalam dunia AI dan komputasi.
Implikasi untuk Masa Depan AI
Dampak dari pencapaian ini tidak hanya terbatas pada NVIDIA, tetapi juga akan mempengaruhi seluruh industri AI. Dengan benchmark baru seperti MLPerf Endpoints, perusahaan-perusahaan lain diharapkan dapat mengikuti jejak NVIDIA dalam meningkatkan performa dan efisiensi solusi AI mereka. Ini menjadi sinyal positif bagi kemajuan teknologi dan inovasi di bidang ini.
Perkembangan Terus-Menerus
Dengan komitmen yang kuat terhadap inovasi, NVIDIA menunjukkan bahwa mereka tidak akan berhenti di sini. Setiap pencapaian baru merupakan langkah menuju pengembangan teknologi yang lebih maju dan aplikatif. Dengan fokus pada kebutuhan pengguna dan implementasi teknologi yang tepat, NVIDIA berpotensi untuk terus memimpin dalam industri yang sangat kompetitif ini.
Kesimpulan
Secara keseluruhan, pencapaian NVIDIA dalam benchmark MLPerf Inference v6.0 melalui inovasi platform Blackwell Ultra mencerminkan kombinasi dari teknologi canggih dan kolaborasi yang strategis. Dengan performa yang mengesankan dan biaya yang telah ditekan, NVIDIA tidak hanya menguatkan posisinya di pasar, tetapi juga membuka jalan bagi masa depan yang lebih cerah bagi teknologi AI. Seiring dengan perkembangan benchmark baru dan optimasi yang terus berlanjut, NVIDIA tetap menjadi pelopor yang menginspirasi dalam dunia kecerdasan buatan.
➡️ Baca Juga: Wakil Ketua I DPRD Lampung Hadiri HUT IWAPI Ke-51
➡️ Baca Juga: NVIDIA Perkenalkan Neural Texture Compression untuk Efisiensi VRAM hingga 85%
