Nama kecilnya Muhammad Waly, tetapi setelah menjadi alim besar, masyarakat Aceh lebih mengenalnya dengan panggilan Abuya atau Syekh Haji Muda Waly. Kehadiran Syekh Muda Waly dalam perkembangan keilmuan Islam di Aceh memiliki arti yang penting, karena hampir seluruh ulama Aceh pada era sesudahnya berada pada jejaring murid, atau murid dari murid Abuya.
Mengawali pengembaraan intelektualnya, Syekh Muda Waly belajar pada beberapa orang ulama kharismatik, diantaranya: Angku Haji Salim bin Malin Palito yang merupakan ayah Abuya, kemudian melanjutkan kepada Teungku Ali Lampisang atau dikenal dengan Abu Lampisang, ulama yang berasal dari lampisang Aceh Besar.
Setelah empat tahun belajar di Madrasah al Khairiah yang dipimpin oleh Abu Lampisang, Syekh Muda Waly melanjutkan pengembaraannya ke Abdya tepatnya di Blangpidie. Abuya belajar langsung dengan ulama yang berasal dari Lamlhom yaitu Syekh Teuku Mahmud atau dikenal dengan sebutan Abu Syekh Mud Blangpidie.
Dalam masa yang relatif singkat Syekh Muda Waly telah mengkhatamkan kitab-kitab besar dalam Mazhab Imam Syafi’i. Di Blangpidie, telah nampak kelebihan Syekh Muda Waly, di mana setiap pengajian gurunya dikaji secara tahqiq dan tadqiq, diantara teman akrab Syekh Muda Waly ketika belajar adalah Teungku Muhammad Salim dan Abu Adnan Bakongan.
Maka sangat layak bila ia digelar dengan Angku Mudo artinya seorang yang alim semenjak usia belia. Setelah menyelesaikan pendidikan di Blangpidie, Syekh Muda Waly mengembara ke Aceh Besar, tepatnya di Kruengkalee, beliau belajar dan berkenalan dengan ulama kharismatik Aceh yaitu Teungku Haji Hasan Kruengkalee atau Abu Kruengkalee.
Teungku Syekh Hasan Kruengkalee merupakan ulama berpengaruh pada era sebelum Syekh Muda Waly, bahkan Abu Ali Lampisang dan Abu Syekh Mud Blangpidie merupakan orang kepercayaan Abu Kruengkalee yang merupakan guru utama Abuya Muda Waly, mereka diutus atas rekomendasi Tuanku Raja Keumala residen Aceh sepengetahuan Abu Kruengkalee.
Tidak lama berada di Kruengkalee hanya beberapa jam, beliau kemudian melanjutkan ke Indrapuri Aceh Besar, tepatnya kepada ulama ahli Al Qur’an Teungku Syekh Hasballah Indrapuri yang dikenal dengan Abu Indrapuri, saudara dari Abu Lam U anak dari Abu Chik Umar Di Yan atau Abu Chik di Lam U yang merupakan teman dari Teungku Chik Muhammad Arsyad yang juga guru dari Abu Kruengkalee. Di pesantren ini Abuya diminta menjadi guru bantu, karena Abuya telah menjadi ulama muda yang diperhitungkan.
