John Carmack, tokoh legendaris di dunia pemrograman dan teknologi, mengemukakan ide unik mengenai penggunaan kabel serat optik panjang sebagai cache L2 (Level 2) untuk keperluan streaming data AI. Ide ini muncul setelah Carmack meneliti kecepatan serat optik mode tunggal yang mampu mencapai 256 Tbps dengan jarak hingga 200 kilometer. Dengan perhitungan sederhana, ia menemukan bahwa sekitar 32 GB data dapat tersimpan secara bersamaan dalam kabel serat tersebut.
Konsep Carmack adalah memanfaatkan loop serat optik sebagai cache data untuk menyimpan bobot model AI yang biasa digunakan untuk proses inferensi dan hampir digunakan untuk pelatihan. Ini berbeda dengan memori DRAM konvensional yang saat ini menjadi standar dalam penyimpanan data sementara untuk pemrosesan AI, yang membutuhkan konsumsi daya cukup besar untuk menjaga data tetap tersedia dan mudah diakses.
Manfaat Energi dan Bandwidth Tinggi Serat Optik
Penggunaan serat optik untuk cache dapat menekan kebutuhan daya secara signifikan karena pengelolaan cahaya relatif hemat energi jika dibandingkan dengan DRAM. Carmack menunjukkan bahwa transmisi data lewat serat optik memiliki potensi pertumbuhan teknologi yang lebih baik daripada DRAM, menawarkan bandwidth yang jauh lebih besar dan latensi mendekati nol. Hal ini dapat mempercepat akses data dalam aplikasi AI yang memerlukan pengolahan secara real-time dan volume data besar.
Selain itu, ide ini dapat menggeser paradigma pemrograman dan hardware AI, di mana memori DRAM selama ini berfungsi hanya sebagai buffer antara penyimpanan permanen (SSD) dan prosesor data. Dengan menggunakan kabel serat sebagai cache, hambatan akses data bisa diminimalkan sehingga performa akselerator AI menjadi maksimal karena data bobot model bisa langsung di-stream dari kabel serat.
Tantangan Praktis dan Teknologi Historis
Namun, gagasan ini bukan tanpa tantangan. Membentangkan dan mengelola kabel serat sepanjang ratusan kilometer membutuhkan investasi yang tidak sedikit. Selain itu, peralatan pelemah optik dan pemrosesan sinyal digital (DSP) yang dibutuhkan dapat mengurangi efisiensi energi yang diharapkan.
Beberapa ahli mengaitkan pendekatan ini dengan teknologi "delay-line memory" dari pertengahan abad 20, yang menggunakan media seperti raksa atau gelombang suara untuk menyimpan data sementara melalui penundaan sinyal. Meski teknologi ini sudah lama ditinggalkan karena masalah kestabilan dan kesulitan operasional, serat optik memberikan perspektif baru yang lebih stabil dan mudah dikendalikan.
Alternatif dan Implementasi Nyata
Dalam diskusi lebih lanjut, Carmack menyebutkan alternatif yang lebih praktis, yaitu menghubungkan chip memori flash secara langsung ke akselerator AI dengan interface standar yang disepakati bersama manufaktur. Cara ini memungkinkan koneksi latensi rendah dan throughput tinggi tanpa memerlukan serat optik ratusan kilometer.
Beberapa riset dan proyek sudah mengeksplorasi gagasan serupa. Misalnya:
- Behemoth (2021) – memanfaatkan memori flash untuk mempercepat pemrosesan grafik neural network.
- FlashGNN dan FlashNeuron (2021) – yang menggali integrasi memori flash dalam pipeline pembelajaran mesin.
- Augmented Memory Grid – studi terkini yang mengoptimalkan penggunaan memori eksternal bersama akselerator AI.
Implementasi ini menunjukkan potensi nyata bahwa teknologi berbasis memori non-volatile dapat meningkatkan efisiensi pemrosesan AI, terutama saat volume data terus berkembang besar.
Dukungan dan Kritik dari Komunitas Teknologi
Respon komunitas pada gagasan Carmack beragam. Beberapa menyambutnya sebagai pendekatan inovatif untuk mengurangi konsumsi daya dan meningkatkan bandwidth akses data AI. Ada pula yang mengingatkan bahwa pengembangan perangkat keras harus mempertimbangkan biaya dan kompleksitas logistik serta efisiensi total sistem. Bahkan Elon Musk turut berkomentar dengan usulan unik menggunakan ruang hampa udara dan laser sebagai media transmisi data, walau hal ini masih sulit direalisasikan.
Diskursus ini menegaskan bahwa kebutuhan peningkatan performa dan efisiensi hardware AI menjadi tantangan besar yang mendorong munculnya ide-ide baru di luar teknologi DRAM konvensional. Meski teknologi serat optik belum umum digunakan sebagai memori cache, eksplorasi lebih lanjut sangat potensial untuk mempercepat masa depan pemrosesan AI.
Pemikiran John Carmack menggugah industri teknologi untuk mengkaji ulang paradigma akses data. Ide kabel serat optik sebagai cache L2 menimbulkan pertanyaan penting tentang bagaimana memori dan data streaming bisa dioptimalkan agar akselerator AI dapat beroperasi dengan latency sangat rendah dan bandwidth sangat tinggi secara efisien. Implementasi inovasi ini, baik secara teori maupun praktik, masih menjadi fokus penelitian dan perdebatan di komunitas teknologi canggih saat ini.
