Sebuah temuan baru dari komunitas pengembang membuka kemungkinan yang selama ini tertutup di lini MacBook berbasis Apple Silicon. Seorang pengembang dilaporkan menemukan cara untuk melatih model AI secara lokal di Neural Engine milik chip M4, melewati pembatasan perangkat lunak yang selama ini diterapkan Apple.
Perkembangan ini menarik perhatian karena Apple selama ini hanya memosisikan Neural Engine untuk menjalankan model yang sudah dilatih, bukan untuk proses training penuh. Jika pendekatan ini terus berkembang, Mac dan bahkan iPad bisa berubah dari sekadar perangkat inferensi menjadi mesin eksperimen AI lokal untuk model berukuran lebih kecil.
Menurut peneliti keamanan dan pengembang @0x0SojalSec di X, pembatasan pada Neural Engine M4 berhasil direkayasa balik. Hasilnya, perangkat keras itu disebut bisa dibuka untuk beban kerja training penuh, termasuk backpropagation pada model transformer.
Pengembang tersebut menyebut kemampuan komputasi yang berhasil diakses mencapai 15,8 TFLOPS untuk training. Angka ini berbeda dari cara Apple memasarkan Neural Engine, yang selama ini diklaim menawarkan hingga 38 TOPS untuk inferensi.
Cara kerja pendekatan ini
Alih-alih memakai jalur resmi seperti Core ML atau Metal, proyek ini dibangun dengan bahasa perantara model kustom atau Model Intermediate Language (MIL). Pendekatan itu memungkinkan komunikasi langsung dengan Neural Engine tanpa bergantung pada kerangka kerja standar Apple.
Tim di balik proyek ini juga menjaga seluruh proses tetap berada di RAM agar tidak bergantung pada penulisan ke penyimpanan yang lebih lambat. Strategi itu disebut membantu menjaga proses training tetap cepat sekaligus stabil.
Saat training macet, mereka juga menemukan solusi dengan memanfaatkan perintah exec() untuk memulai ulang proses. Cara ini memungkinkan checkpoint disimpan, lalu pelatihan dilanjutkan tanpa harus memulai dari awal.
Proyek tersebut sudah dibagikan melalui GitHub, sehingga detail implementasinya bisa ditinjau dan diuji oleh komunitas yang lebih luas. Salah satu poin penting yang ditunjukkan adalah training jaringan saraf langsung di perangkat ANE dapat dilakukan dengan dependensi tambahan yang minim.
Hasil awal dan potensi performa
Pengujian awal yang dibagikan menunjukkan hasil yang cukup menjanjikan pada chip M4. Beberapa langkah training transformer dilaporkan bisa diselesaikan hanya dalam hitungan milidetik.
Temuan itu memberi gambaran bahwa kemampuan nyata Neural Engine mungkin lebih luas daripada yang selama ini tersedia lewat jalur perangkat lunak resmi. Dalam praktiknya, pembatasan tampaknya bukan semata soal kemampuan perangkat keras, melainkan juga soal bagaimana akses ke perangkat tersebut diatur.
Apple sendiri belum menyediakan dukungan resmi untuk training di Neural Engine. Sampai saat ini, fungsi ANE di ekosistem Apple lebih diarahkan untuk menjalankan model terlatih secara efisien di perangkat.
Kondisi itu membuat temuan ini penting bukan hanya dari sisi teknis, tetapi juga dari sisi arah pengembangan AI di perangkat konsumen. Selama ini, eksperimen training lokal umumnya lebih erat dikaitkan dengan GPU atau layanan cloud, bukan dengan akselerator AI tertutup di laptop tipis.
Dampak bagi ekosistem Mac dan iPad
Jika teknik ini makin matang, perangkat Apple yang umum dipakai sehari-hari berpotensi menjadi sarana pengembangan AI lokal yang lebih berguna. Itu terutama relevan untuk model kecil yang tidak memerlukan infrastruktur besar di pusat data.
Kemampuan melatih model langsung di perangkat juga bisa mengurangi ketergantungan pada layanan cloud untuk sebagian skenario. Bagi pengembang, hal itu bisa berarti eksperimen yang lebih cepat, lebih privat, dan lebih dekat dengan lingkungan penggunaan sebenarnya.
Di sisi lain, temuan ini kembali memunculkan perdebatan lama soal pendekatan Apple yang sangat ketat dalam mengendalikan hubungan antara perangkat keras dan perangkat lunak. Neural Engine tampaknya memiliki kemampuan yang lebih besar, tetapi aksesnya dibatasi melalui lapisan perangkat lunak resmi.
Bagi komunitas AI, situasi ini membuka ruang eksplorasi baru di dalam ekosistem Apple yang selama ini relatif tertutup untuk training model. Perhatian kini tertuju pada seberapa jauh komunitas dapat mendorong batas teknis itu tanpa dukungan resmi dari Apple.
Untuk saat ini, yang sudah terlihat adalah satu hal penting: Neural Engine pada M4 tidak hanya relevan untuk inferensi. Dengan rekayasa balik yang tepat, perangkat itu mulai menunjukkan potensi sebagai mesin training AI lokal yang sebelumnya tidak tersedia bagi pengguna MacBook melalui jalur resmi.