Abu Syam Marfaly dan beberapa teman seangkatannya lebih banyak belajar kepada Abuya Muhibbuddin Waly yang telah mulai mengajar ketika itu.
Selain itu, Abu Syam Marfaly juga belajar langsung kepada seorang murid Abuya Muda Waly lainnya yang dikenal ahli dalam ilmu Mantiq dan Ushul Fikih yaitu Abu Imam Syamsuddin Sangkalan, yang pernah memimpin Dayah Darussalam Labuhan Haji setelah wafatnya Abuya Muda Waly, dan saat Abuya Muhibbudin Waly berangkat belajar ke Mesir.
Banyak ilmu yang beliau peroleh dari Abu Imam Syamsuddin, bahkan disebutkan bahwa Abu Syam Marfaly pernah diuji oleh Abu Imam Syamsuddin dalam beberapa cabang ilmu keislaman secara tahqiq.
Abu Imam Syamsuddin Sangkalan sendiri memimpin Dayah Darussalam pada tahun 1965-1967, karena setelah wafatnya Abuya Syekh Muda Waly Dayah Darussalam dipimpin oleh Abuya Muhibbudin Waly kemudian karena beliau berangkat belajar ke Al Azhar Mesir, jadilah Dayah Darussalam dipimpin oleh Abu Imam Syamsuddin Sangkalan atas musyawarah seluruh alumni senior termasuk Abu Bakongan dan Abuya Haji Jailani Kota Fajar.
Setelah Abu Imam Syamsuddin, selanjutnya Dayah Darussalam Labuhan Haji dipimpin oleh Abuya Jamaluddin Waly, karena masih sangat muda, mungkin sekitar usia 23 tahun, Abuya Jamal disebut dengan Kiyai Muda Jamaluddin Waly dan setelahnya dipimpin pula oleh adiknya Abuya Haji Amran Waly dan kemudian dipimpin secara bergiliran oleh anak-anak Abuya Syech Muda Waly.
Abu Syam Marfaly termasuk ulama yang kuat himmah dan tekadnya. Sehingga beliau mampu bertahan di Dayah Darussalam Labuhan Haji selama 17 tahun belajar dan mengajar. Bahkan pada masa Darussalam Labuhan Haji dipimpin oleh Abuya Haji Amran Waly al-Khalidy, Abu Syam Marfaly sudah menjadi guru senior di Darussalam Labuhan Haji.
Dengan tekad dan kesungguhan, telah mengantarkan beliau menjadi ulama yang rasikh ilmunya. Setelah menjadi alim, pulanglah Abu Syam Marfaly kembali ke kampung halamannya Blangpidie.
Atas kesepakatan masyarakat, setelah wafatnya Abuya Haji Abdul Hamid Kamal, maka pimpinan diserahkan kepada Abu Syam Marfaly. Dayah Bustanul Huda Blangpidie ini didirikan oleh Abu Syech Mahmud ditahun 1928, yang kemudian setelah wafatnya Abu Syech Mud tahun 1966, Dayah Bustanul Huda dipimpin oleh murid sekaligus menantunya Abuya Abdul Hamid Kamal yang pada waktu bersamaan telah memimpin dayah lainnya di Kuala Batee yang dikenal dengan Dayah Raudhah. Dan Abu Abdul Hamid Kamal wafat pada tahun 1980.
