Samsung, Kioxia, dan Peak:AIO sama-sama memberi sinyal bahwa lapisan infrastruktur AI sedang bergerak cepat, dari memori berkecepatan tinggi sampai metadata storage yang lebih elastis. Tiga pengumuman ini menyorot kebutuhan yang sama: menjaga aliran data tetap lancar saat beban kerja AI, komputasi skala besar, dan lingkungan ekstrem makin menuntut.
Di sisi memori, Samsung mengatakan telah mulai mengirim sampel HBM4E 12-layer ke pelanggan global utama. Langkah ini datang setelah perusahaan memulai produksi massal HBM4 lebih awal tahun ini, sehingga generasi berikutnya langsung masuk ke fase pengujian pelanggan.
HBM4E Samsung: lebih cepat, lebih padat
HBM atau High Bandwidth Memory menumpuk die DRAM secara vertikal dengan konektivitas paralel besar untuk memaksimalkan bandwidth data. Jenis memori ini dipakai bersama GPU dan prosesor domain-specific dalam arsitektur chiplet untuk menyimpan data yang mendukung pelatihan dan inferensi AI.
Samsung menyebut HBM4E memiliki kecepatan pin stabil 14 gigabit per detik, dengan performa yang bisa ditingkatkan sampai 16Gbps. Perusahaan juga menyatakan bandwidth per stack bisa mencapai 3,6 terabyte per detik, atau lebih dari 20 persen di atas HBM4.
Kapasitas 48GB pada varian 12-layer juga disebut naik lebih dari 30 persen dibanding generasi sebelumnya. Samsung menyiapkan perluasan lini ke 32GB dengan 8-layer dan 64GB dengan 16-layer, menyesuaikan kebutuhan pelanggan.
Konteks pasar membuat dorongan ini relevan. Samsung menyebut permintaan HBM masih tinggi, sementara kapasitas produksi belum mencukupi, sehingga harga tetap tinggi dan pengguna besar seperti hyperscale data center mengandalkan kontrak jangka panjang untuk mengamankan pasokan.
Kioxia dan HPE: storage untuk bumi hingga luar angkasa
Di ajang HPE Discover, Kioxia akan menyoroti penggunaan SSD mereka untuk komputasi di darat dan berbasis luar angkasa. Perusahaan juga akan menampilkan produk PCIe 5.0 Enterprise dan Datacenter, EDSFF, serta 24G SAS atau SAS-4.
Kioxia menyebut lini itu menawarkan performa lebih tinggi, densitas penyimpanan lebih besar, dan efisiensi daya yang lebih baik dibanding generasi sebelumnya. SSD Kioxia juga sudah dipakai pada berbagai platform HPE, mulai dari server enterprise, digital storage, mobile computing, hingga lingkungan modern data center.
Fokus lain Kioxia adalah kontribusinya pada misi Spaceborne Computing milik HPE. Ini mencakup proyek di International Space Station dan rencana eksplorasi bulan di masa depan.
Kombinasi itu menunjukkan bahwa storage enterprise kini tidak hanya diukur dari kecepatan dan kapasitas, tetapi juga dari ketahanan operasional dalam kondisi yang jauh lebih menantang. Penggunaan SSD di ISS memperlihatkan bagaimana vendor storage dan pembuat server mencoba membawa standar pusat data ke lingkungan luar angkasa.
Peak:AIO dan Los Alamos: metadata ikut jadi medan persaingan
Di ranah perangkat lunak storage, Peak:AIO dan Los Alamos National Laboratory meluncurkan Lattice pada konferensi IEEE International Conference on Massive Storage Systems and Technology. Lattice adalah server metadata pNFS open-source yang dibangun untuk mengatasi salah satu hambatan paling persisten di infrastruktur AI dan high-performance computing.
Peak:AIO menyebut beban kerja AI kini menuntut akses paralel yang sangat cepat ke dataset besar secara terus-menerus dan andal. Menurut perusahaan, komputasi GPU sudah berkembang pesat, tetapi lapisan storage yang memberi makan GPU, terutama arsitektur metadata yang mengoordinasikannya, belum mengejar laju yang sama.
Perusahaan juga mengutip angka rata-rata utilisasi GPU sebesar 5 persen di 23.000 production cluster dari Cast AI. Masalahnya bukan pada hardware GPU, melainkan pada software yang tidak mampu mengikuti kebutuhan data di belakangnya.
Lattice dirancang sebagai metadata server berbasis Linux di user space yang menekankan skala, modularitas, dan koordinasi terdistribusi. Proyek ini bersifat open-source, didukung komunitas, dan diluncurkan di bawah Linux Foundation.
Arsitekturnya membagi control plane metadata ke dalam empat lapisan: Protocol State Plane, Lattice Core, MD Catalog Authority, dan Data Server Control Plane. Desain itu membuat layanan metadata bisa bersifat elastis, berjalan di hardware komoditas, dan tumbuh dari satu server hingga lebih dari 1.000 metadata server.
Jika Samsung menekan batas kecepatan memori dan Kioxia mendorong storage ke data center serta ruang angkasa, Peak:AIO dan Los Alamos menyoroti sisi lain dari rantai data yang kerap terlupakan. Lapisan metadata kini ikut menjadi penentu apakah infrastruktur AI benar-benar bisa memanfaatkan seluruh daya komputasi yang sudah dipasang.