Analis Cantor Fitzgerald, CJ Muse, dalam analisanya menyebut bahwa LPU memiliki sejumlah keunggulan signifikan dibandingkan GPU dalam konteks inferensi.
Keunggulan LPU Dibanding GPU
Menurut Muse, LPU merupakan prosesor deterministik dan hemat daya. Keunggulannya meliputi latensi yang sangat rendah serta kemampuan menghasilkan token per detik yang efisien untuk pengguna tunggal—salah satu yang tercepat di pasaran.
Namun, terdapat keterbatasan. LPU menggunakan jenis memori super cepat dengan kapasitas terbatas, sehingga implementasinya membutuhkan lebih banyak rak dalam infrastruktur pusat data.
Kendati demikian, integrasi teknologi Groq ke dalam ekosistem Nvidia dinilai dapat memperluas pangsa pasar inferensi perusahaan, terutama untuk tahap lanjutan pembangunan infrastruktur AI seperti robotika dan sistem otonom yang membutuhkan pemrosesan waktu nyata.
Persaingan di Era Inferensi AI
Alphabet dan Broadcom Kembangkan Chip Sendiri
Dominasi Nvidia dalam GPU tidak membuat perusahaan bebas dari tekanan kompetitif. Alphabet (GOOGLE) dan Broadcom (AVGO), misalnya, diketahui tengah mengembangkan chip khusus mereka sendiri.
Chip kustom ini dirancang untuk lebih murah dan lebih tepat sasaran dalam memenuhi kebutuhan inferensi AI. Dengan demikian, pelanggan memiliki alternatif selain GPU Nvidia yang selama ini menjadi standar industri.
Perubahan strategi Nvidia menuju platform chip inferensi baru dapat dipandang sebagai pengakuan bahwa pasar AI tengah mengalami evolusi. Jika sebelumnya fokus utama adalah pelatihan model besar, kini kebutuhan lebih banyak tertuju pada penerapan model tersebut secara efisien dalam skala luas.
Pergeseran dari Training ke Inference
Dalam fase awal revolusi AI, perusahaan teknologi berlomba-lomba membangun infrastruktur pelatihan model raksasa yang membutuhkan daya komputasi sangat besar. GPU Nvidia menjadi komponen kunci dalam fase tersebut.
Namun seiring model AI semakin matang dan siap digunakan secara luas, fokus investasi mulai bergeser ke tahap inferensi. Pada tahap ini, kebutuhan akan efisiensi energi, biaya rendah, dan respons cepat menjadi lebih dominan dibandingkan sekadar kekuatan komputasi mentah.
Platform chip inferensi baru Nvidia, jika benar diumumkan di GTC, berpotensi memperkuat posisi perusahaan dalam fase baru siklus AI ini.
Dampak terhadap Saham NVDA
Kinerja Saham Nvidia Tahun Ini
Meskipun Nvidia mencatat kinerja pendapatan yang luar biasa, saham NVDA masih mengalami tekanan. Sepanjang tahun ini, saham Nvidia tercatat turun sekitar 5%.
