Beliau lahir di Seping salah satu desa dalam kawasan Aceh Singkil. Kehadiran Abuya Syekh Bahauddin memiliki arti penting bagi masyarakat Aceh Singkil dan Subulussalam, mengingat Abuya Bahauddin merupakan ulama besar pendiri Pesantren Darul Muta’alimin yang kemudian menjadi sentral bagi pesantren-pasantren lain seputaran Singkil dan Subulussalam. Bahkan disebutkan cabangnya mencapai seratus lembaga pendidikan lainnya.
Abuya Bahauddin berasal dari keluarga yang taat beragama dan mencintai ilmu pengetahuan.
Pada usianya tujuh tahun mulailah Abuya Bahauddin belajar di Sekolah Rakyat atau SR selama tiga tahun sambil belajar kepada kedua orang tuanya dasar-dasar ilmu keislaman. Dan pada tahun 1947 tepatnya usia Abuya Bahauddin 10 tahun, mulailah beliau merantau ke sebuah dayah terkenal yang mengorbit banyak ulama yaitu Dayah Darussalam Labuhan Haji yang dipimpin oleh Abuya Syech Haji Muhammad Waly al-Khalidy.
Pada masa kedatangan Abuya Bahauddin di tahun 1947 merupakan awal berdatangan banyak para santri yang tiba di Darussalam yang kemudian menjadi para ulama. Walaupun umumnya mereka tiba di Darussalam Labuhan Haji di atas tahun 1950.
Para ulama yang datang di bawah tahun 1950 diantaranya Abu Yusuf ‘Alamy menantu Abuya Muda Waly, Abuya Aidarus Padang anak Syech Abdul Ghani Kampari, Abu Adnan Mahmud Bakongan.
Abu Jailani Kota Fajar, Abu Qamaruddin Teunom, Abu Jakfar Lailon, Abu Imam Syamsuddin Sangkalan, Syech Marhaban Kruengkalee, Abuya Bahauddin Tanah Merah, Abuya Baihaqi Batu Korong, Abu Zamzami Syam, dan para ulama lainnya. Ada diantara para ulama yang belajar lima tahun dan ada yang sepuluh tahun.
Umumnya para ulama yang tiba sesudah 1950, mereka pulang mendekati tahun 1960, sebab tahun 1961 Abuya Syekh Muda Waly Wafat. Mereka para ulama yang tiba di atas 1950 seperti Abu Lueng Ie, Abu Abdullah Hanafi Tanoh Mirah, Abu Keumala, Abu Abdul Aziz Samalanga, Abu Muhammad Zamzami Lam Ateuk, Abu Muhammad Amin Blang Blahdeh, Abu Daud Zamzami Ateuk Anggok, dan mereka umumnya pulang sebelum Abuya Muda Waly wafat.
