Samsung memperkenalkan memori HBM4E di ajang Nvidia GTC yang digelar pada pertengahan Maret. Kehadiran teknologi ini menegaskan strategi Samsung untuk mempercepat pengembangan memori berbandwidth tinggi yang dibutuhkan pusat data AI generasi berikutnya.
Produk baru ini datang tidak lama setelah Samsung mengumumkan produksi massal HBM4. Dengan demikian, fokus industri kini tertuju pada seberapa besar lonjakan performa yang ditawarkan HBM4E untuk beban kerja kecerdasan buatan yang terus tumbuh.
HBM4E dorong bandwidth AI lebih tinggi
Berdasarkan informasi yang dipamerkan Samsung di Nvidia GTC, HBM4E menawarkan kecepatan transfer data 16 gigabit per detik per pin. Total bandwidth-nya mencapai 4 terabyte per detik, angka yang menempatkannya sebagai salah satu solusi memori paling agresif untuk komputasi AI saat ini.
Samsung menyebut HBM4E dibangun memakai proses DRAM 10nm generasi keenam buatan internal. Pendekatan ini ditujukan untuk mengejar kombinasi performa tinggi dan hasil produksi yang stabil, dua faktor yang sangat penting bagi pemasok memori untuk server AI skala besar.
Dari sisi teknis, HBM4E dirancang untuk mempercepat pemrosesan data dalam jumlah masif. Kebutuhan seperti pelatihan model bahasa, inferensi real-time, dan komputasi akselerator GPU memang sangat bergantung pada bandwidth memori yang luas dan latensi yang efisien.
Perbandingan dengan HBM4
Samsung juga menampilkan konteks peningkatan dari generasi sebelumnya. HBM4 disebut memiliki kecepatan pemrosesan konsisten 11,7 Gbps per pin, sehingga lompatan ke 16 Gbps per pin pada HBM4E menjadi peningkatan yang signifikan.
Perbedaan ini penting karena pasar AI kini tidak hanya menuntut kapasitas besar, tetapi juga aliran data yang lebih cepat antara prosesor dan memori. Dalam arsitektur modern, bottleneck memori bisa menghambat kinerja GPU berdaya tinggi, sehingga peningkatan bandwidth sering kali berdampak langsung pada efisiensi sistem.
Berikut ringkasan spesifikasi yang ditunjukkan Samsung:
| Teknologi | Kecepatan per pin | Total bandwidth |
|---|---|---|
| HBM4 | 11,7 Gbps | Tidak disebutkan dalam referensi |
| HBM4E | 16 Gbps | 4 TB/s |
Dipamerkan bersama platform Nvidia
Di area pameran, Samsung menampilkan chip HBM4 yang terpasang pada platform Nvidia Vera Rubin. Perusahaan juga memamerkan wafer base die Foundry 4nm, yang memberi gambaran bagaimana integrasi memori dan proses fabrikasi logika akan menjadi fondasi sistem AI kelas atas.
Sorotan lain datang dari kunjungan CEO Nvidia, Jensen Huang, ke stan Samsung. Dalam materi yang dibagikan, Jensen Huang terlihat menandatangani wafer HBM4 dengan tulisan “Amazing HBM4”, sebuah momen simbolis yang memperkuat kedekatan ekosistem antara pemasok memori dan penyedia GPU AI.
Kehadiran Samsung di GTC juga menunjukkan bahwa persaingan memori AI tidak lagi sekadar soal kapasitas. Vendor kini berlomba membangun solusi yang lebih siap dipasangkan dengan platform komputasi Nvidia, karena pasar akselerator AI global terus bergerak ke sistem yang lebih padat dan haus bandwidth.
Hybrid Copper Bonding jadi elemen penting
Selain HBM4E, Samsung memamerkan teknologi Hybrid Copper Bonding atau HCB. Teknologi ini memungkinkan penyusunan memori hingga 16 lapisan atau lebih, yang penting untuk meningkatkan kepadatan tanpa mengorbankan efisiensi integrasi.
Samsung menyatakan HCB dapat menurunkan resistansi panas lebih dari 20 persen dibanding metode thermal compression bonding tradisional. Dalam konteks HBM, pengendalian panas menjadi isu utama karena tumpukan memori yang makin tinggi biasanya memperbesar tantangan termal.
Jika klaim ini terjaga dalam produksi skala besar, HCB dapat menjadi salah satu pembeda Samsung di pasar HBM premium. Solusi semacam ini dibutuhkan agar peningkatan performa tidak dibayar dengan lonjakan suhu yang berisiko pada stabilitas server AI.
Portofolio AI yang ikut dipamerkan
Tidak hanya HBM, Samsung juga menampilkan SOCAMM2 dan SSD PM1763. SOCAMM2 disebut sebagai modul memori server berbasis DRAM hemat daya dengan bandwidth tinggi dan fleksibilitas integrasi sistem yang lebih baik.
Sementara itu, PM1763 mengusung antarmuka PCIe 6.0 untuk transfer data yang lebih cepat dan kapasitas besar. Kombinasi memori HBM, modul server, dan SSD berkecepatan tinggi menunjukkan bahwa Samsung ingin menempatkan diri sebagai pemasok komponen inti untuk infrastruktur AI secara lebih menyeluruh.
Secara industri, langkah ini masuk akal karena pusat data AI tidak hanya bergantung pada GPU. Kinerja akhir juga ditentukan oleh memori utama, penyimpanan cepat, efisiensi termal, dan kemampuan integrasi antarkomponen dalam satu sistem.
Arah setelah HBM4E
Samsung juga memaparkan peta jalan berikutnya untuk lini HBM. Perusahaan berencana memakai proses DRAM 1c dan foundry 2nm untuk HBM5, yang disebut diperkirakan hadir sekitar dua tahun lagi.
Setelah itu, Samsung menargetkan HBM5E dengan proses DRAM 1d dan foundry 2nm yang sama. Rencana tersebut menunjukkan bahwa pengembangan HBM tidak berhenti pada peningkatan bandwidth semata, tetapi juga bergerak ke efisiensi daya, kepadatan lebih tinggi, dan integrasi manufaktur yang makin kompleks.
Bagi pasar AI, kemunculan HBM4E di Nvidia GTC menjadi sinyal bahwa fase berikutnya dari persaingan perangkat keras akan banyak ditentukan oleh memori. Saat model AI terus membesar dan kebutuhan inferensi makin luas, bandwidth 4 TB/s dan dukungan teknologi stacking baru menjadi faktor yang semakin relevan bagi vendor server, hyperscaler, dan perancang akselerator generasi baru.
