VI3NR: Inisialisasi Berbasis Varian untuk Representasi Neural Implisit
Author
Venue
CVPR 2025
Abstract
Representasi Neural Implisit (INR) adalah alat yang serbaguna dan kuat untuk mengkodekan berbagai bentuk data, termasuk gambar, video, suara, dan bentuk 3D. Faktor penting dalam keberhasilan INR adalah inisialisasi jaringan, yang dapat secara signifikan memengaruhi konvergensi dan akurasi model yang dipelajari. Sayangnya, inisialisasi jaringan saraf yang umum digunakan tidak dapat diterapkan secara luas untuk banyak fungsi aktivasi, terutama yang digunakan oleh INRs. Dalam makalah ini, kami memperbaiki metode inisialisasi sebelumnya dengan mengembangkan inisialisasi yang memiliki varians stabil di seluruh lapisan, dan berlaku untuk fungsi aktivasi apa pun. Kami menunjukkan bahwa ini menggeneralisasi banyak metode inisialisasi sebelumnya, dan memiliki stabilitas yang lebih baik untuk fungsi aktivasi yang telah banyak diteliti. Kami juga menunjukkan bahwa inisialisasi kami menghasilkan hasil yang lebih baik dengan fungsi aktivasi INR dalam berbagai modalitas sinyal. Pendekatan kami sangat efektif untuk INR Gaussian, di mana kami menunjukkan bahwa teori inisialisasi kami sesuai dengan kinerja tugas dalam berbagai eksperimen, sehingga memungkinkan kami mencapai peningkatan dalam rekonstruksi gambar, audio, dan permukaan 3D.
