Neurophos, sebuah startup yang berbasis di Austin, menghadirkan inovasi baru dalam dunia pemrosesan AI dengan mengembangkan prosesor optik yang dinamakan Tulkas T100. Chip ini diklaim mampu mencapai performa komputasi hingga 470 petaFLOPS dalam mode FP4 dan INT4. Dengan konsumsi daya yang dikontrol antara 1 hingga 2 kW, Tulkas T100 menjanjikan efisiensi tinggi untuk kebutuhan komputasi intensif.
Keunikan teknologi Tulkas T100 terletak pada penggunaan transistor optik yang berukuran jauh lebih kecil daripada transistor silikon fotonik konvensional. Transistor optik yang dipakai Neurophos ini memiliki ukuran sekitar 10.000 kali lebih kecil daripada standar saat ini, yang memungkinkan tingkat kepadatan komputasi menjadi sangat tinggi.
Teknologi Transistor Optik Mendorong Era Baru AI
Transistor optik Tulkas T100 dibuat untuk melebihi batasan teknologi semikonduktor tradisional yang selama ini dibatasi oleh hukum Moore. Pendekatan ini memungkinkan integrasi komputasi yang lebih padat tanpa meningkatkan konsumsi daya atau ukuran chip. CEO Neurophos, Patrick Bowen, menyatakan bahwa transistor optik konvensional saat ini memiliki ukuran panjang sekitar 2mm, yang sangat besar jika dibandingkan dengan transistor optik mereka.
Selain itu, Tulkas T100 dilengkapi dengan sebuah inti tensor optik berukuran sekitar 1.000 x 1.000, ukuran ini 15 kali lebih besar dari matriks 256 x 256 yang standar digunakan oleh GPU AI saat ini. Hal ini membuka kemungkinan percepatan sejumlah besar perhitungan matriks yang diperlukan dalam proses inferensi AI secara signifikan.
Desain dan Kapasitas Memori Mendukung Beban Kerja Berat
Untuk menunjang performa sangat tinggi tersebut, Tulkas T100 dirancang dengan struktur dual reticle yang memungkinkan pemasangan memori HBM (High Bandwidth Memory) mencapai 768GB. Kapasitas memori yang besar ini sangat penting untuk menangani beban kerja AI yang menuntut bandwidth dan kapasitas penyimpanan data yang tinggi, terutama untuk model bahasa besar dan tugas inferensi berbasis token input.
Penggunaan SRAM juga menjadi aspek penting dalam menjaga efisiensi prosesor dengan mendukung aliran data secara cepat ke inti tensor optik. Selain itu, fitur penyimpanan SSD diharapkan dapat digunakan untuk proses pengolahan data besar dan simulasi dalam pengujian chip.
Target Pemanfaatan dan Tantangan Produksi
Fokus utama generasi pertama Tulkas T100 adalah pada tahap prefill dalam proses inferensi AI, terutama untuk mempercepat pengolahan token input pada model bahasa besar. Bowen membayangkan chip ini akan digunakan secara paralel dengan rak GPU AI yang sudah ada, memungkinkan percepatan komputasi secara keseluruhan tanpa menggantikan teknologi yang sudah mapan.
Meskipun demikian, Neurophos memperkirakan produksi massal chip baru ini baru dapat terealisasi pertengahan dekade ini, dengan pengiriman awal yang diharapkan berjumlah ribuan unit. Saat ini, perusahaan sedang melakukan pengujian pada chip proof-of-concept untuk memastikan bahwa klaim komputasi dan efisiensi daya dapat terwujud secara nyata.
Persaingan dan Implikasi Industri AI
Perkembangan teknologi optik dalam semikonduktor AI menarik perhatian banyak pelaku industri, termasuk para pesaing utama seperti Nvidia dan AMD yang juga aktif mengembangkan teknologi fotonik silikon mereka. Kompetisi ini menunjukkan bahwa kebutuhan atas peningkatan kecepatan komputasi AI sekaligus pengurangan konsumsi energi semakin mendesak.
Namun, teknologi optik masih menghadapi sejumlah tantangan, seperti integrasi SRAM, kecepatan pemrosesan vektor, serta kompatibilitas dengan proses fabrikasi CMOS. Keberhasilan teknologi ini sangat bergantung pada kemampuan memecahkan masalah teknis tersebut agar dapat diproduksi secara massal dan digunakan secara luas di industri AI.
Potensi Revolusi dalam Inferensi AI
Konsep prosesor optik seperti Tulkas T100 membuka jalan bagi percepatan signifikan dalam pengolahan model AI besar. Kecepatan operasional yang mencapai 56GHz jauh melampaui frekuensi CPU dan GPU konvensional saat ini. Jika dapat berhasil diproduksi secara masal, chip ini berpotensi menjadi komponen kunci dalam infrastruktur komputasi AI modern.
Integrasi teknologi optik dan memori bandwidth tinggi memberikan alternatif baru bagi pengembangan arsitektur akselerator AI yang lebih efisien dan bertenaga. Meski masih dalam tahap awal pengujian, langkah Neurophos ini menunjukkan arah perkembangan teknologi yang dapat mengatasi batasan fisik dalam industri chip saat ini dan mendukung kemajuan AI generasi berikutnya.
