Beliau lahir dari keluarga yang taat beragama, ayahnya bernama Teungku Ibrahim yang merupakan seorang Teungku dan pimpinan dayah. Adapun dari jalur ibunya, Teungku Muslim Ibrahim terutama kakeknya juga ulama pimpinan dayah. Sehingga sejak kecil beliau telah dididik dan tumbuh dalam naungan keilmuan dan ketaatan.
Setelah menyelesaikan pendidikan sarjana muda di Aceh, Teungku Muslim Ibrahim merasa ilmunya masih dangkal dan minim, sehingga dengan penuh semangat mencari ilmu dan mengantarkan beliau ke Mesir pada tahun 1971 setelah melewati proses seleksi yang sangat ketat.
Sesampai di Kairo Mesir, Teungku Muslim Ibrahim belajar dengan tekun dan penuh kesabaran, sehingga dari mulai strata satu, strata dua dan pada tahun 1984 beliau telah berhasil menyelesaikan doktornya di Universitas Al Azhar Kairo, dalam bidang Fiqh Muqaran atau Fiqh Perbandingan.
Saat itu beliau adalah satu-satunya pelajar dari Asia Tenggara yang berhasil menyelesaikan strata tiga dalam usia yang masih sangat muda dibawah bimbingan gurunya Syekh Abdul Ghani Abdul Khalik.
Sehingga pada hari kelulusan Teungku Muslim Ibrahim dari Al Azhar Kairo Mesir, banyak media massa di Timur Tengah yang memberitakan keberhasilan pemuda tersebut dalam meraih gelar doktornya.
Bahkan Universitas Ummul Qura’ Madinah menawarkan kepadanya untuk menjadi dosen dan pengajar di kota Madinah Munawwarah. Namun beliau lebih memilih berkiprah di Aceh dengan segala dinamika yang ada.
Setiba di Aceh setelah mengembara belasan tahun belajar sehingga telah mengantarkan Teungku Muslim Ibrahim menjadi seorang ilmuan yang diperhitunggakan.
Berbagai jabatan akademis pernah diemban oleh beliau, sebut saja misalnya: Ketua Syariah Perbandingan Mazhab UIN Ar-Raniry, Asisten Direktur Pascasarjana saat itu Direkturnya masih tunduk ke UIN Syarif Hidayatullah Jakarta dengan rektornya Prof Harun Nasution.
Jabatan terakhir Teungku Muslim Ibrahim dalam bidang akademis adalah sebagai Direktur Pascasarjana IAIN Ar-Raniry setelah era Prof Dr Harun Nasution.
Tepatnya tahun 1998 Teungku Muslim Ibrahim mulai ditunjuk sebagai salah satu pimpinan MUI Aceh yang kemudian berubah nama menjadi Majelis Permusyawaratan Ulama (MPU) Aceh yang dikenal sekarang ini.
