Rasulullah Saw dan 2 Khalifah setelahnya telah menempatkan potensi ilmiah ini untuk berkhidmat kepada Islam dan kaum muslimin.
Nabi Saw melihat bahwa banyak sekali rombongan kaum Quraisy yang masuk ke dalam agama Allah secara berbondong-bondong setelah penaklukan Mekkah.
Rasul merasakan bahwa para muslimin yang baru ini membutuhkan seorang pengajar besar yang dapat mengajarkan Islam dan syariatnya kepada mereka. Maka Nabi Saw menunjuk Attab bin Usaid untuk menjadi pemimpin Mekkah, dan menunjuk Muadz bin Jabal untuk menemani Attab untuk mengajarkan Al Qur’an kepada semua manusia dan mengajarkan ilmu pengetahun tentang agama Allah Swt.
Ketika beberapa orang utusan para raja Yaman datang menghadap Rasulullah Saw dan menyatakan keislaman para raja tadi dan semua pendukungnya. Mereka juga meminta Rasul Saw untuk mengirimkan orang yang dapat mengajarkan ilmu agama kepada mereka. Maka Rasul Saw mengirimkan beberapa orang da’i dari kalangan sahabat untuk misi ini, dan Rasul Saw menunjuk Muadz bin Jabal untuk memimpin rombongan ini.
Nabi Saw sendiri turut keluar untuk melepas rombongan pembawa petunjuk dan cahaya ini. Beliau berjalan di bawah kendaraan tuggangan Muadz, sedangkan Muadz berada di atas kendaraan.
Rasulullah Saw menghabiskan harinya bersama Muadz seolah Beliau hendak berduaan dengannya.
Kemudian Beliau Saw memberikan wasiat kepada Muadz: “Ya Muadz, barangkali engkau tidak dapat berjumpa denganku lagi setelah tahun ini. Barangkali engkau akan melewati Masjid dan kuburku.”
Muadz lalu menangis sedih karena akan berpisah dengan Nabi sekaligus kekasihnya yang bernama Muhammad Saw, dan para muslimin yang ada pun turut menangis.
Benar sekali prediksi Nabi Saw, amat beruntung sekali kedua mata Muadz ra yang masih sempat melihat Nabi Saw setelah saat itu.
Rasulullah Saw telah wafat sebelum Muadz kembali dari Yaman. Tidak ragu lagi, Muadz pun langsung menangis saat ia kembali ke Yatsrib dan ia menemukan bahwa Madinah telah kehilangan kekasihnya yaitu Rasulullah Saw.
Saat Umar ra menjabat sebagai khalifah ia mengutus Muadz ke Bani Kilab untuk membagikan harta kepada mereka, membagikan harta sedekah orang kaya mereka kepada kaum fakir disana. Muadz pun menjalani apa yang diperintahkan kepadanya. Ia kembali ke rumah menemui istrinya dengan membawa pelana yang senantiasa ia bawa di atas lehernya. Istrinya bertanya: “Apakah yang kau bawa sebagaimana para wali (gubernur) membawakan hadiah bagi keluarganya?!”
Muadz menjawab: “Aku senantiasa diikuti oleh pengawas yang selalu memperhatikan aku.”
Istrinya berkata: “Engkau adalah orang yang dipercaya pada masa Rasulullah Saw dan Abu Bakar. Kemudian pada zaman Umar, ia mengutus seorang pengawas untuk selalu mengawasimu?!”
Hal itu kemudian tersiar hingga sampai di telinga istri Umar. Istri Muadz mengeluhkan hal ini kepada istri Umar.
Hal itu sampai terdengar oleh Umar, ia pun segera memanggil Muadz dan bertanya: “Apakah aku pernah mengirimkan seorang pengawas kepadamu untuk selalu memperhatikan kamu?!”
Muadz menjawab: “Tidak, ya Amirul Mukminin. Akan tetapi aku tidak memiliki alasan apapun buat istriku selain hal itu.” Maka Umar pun tertawa dan memberikan sesuatu kepada Muadz sambil berkata: “Buatlah istrimu senang dengan pemberian ini!”
Pada zaman kekhalifahan Umar Al Faruq suatu saat wali Syam yang bernama Yazid bin Abu Sufyan mengirimkan surat yang berbunyi: “Ya Amirul Mukminin, Penduduk Syam sudah semakin banyak. Mereka amat membutuhkan orang yang dapat mengajarkan Al Qur’an dan ajaran agama kepada mereka. Tolong kirimkan kepadaku beberapa orang yang dapat mengajarkan mereka.” Maka Umar segera mengumpulkan 5 orang yang pernah mengumpulkan Al Qur’an pada zaman Nabi Saw.
Kelima orang tersebut adalah: Muadz bin Jabal, Ubadah bin Shamit, Abu Ayyub Al Anshary, Ubai bin Ka’b dan Abu Darda. Umar berkata kepada mereka: “Saudara kalian para penduduk Syam meminta pertolonganku untuk mengirimkan orang yang dapat mengajarkan Al Qur’an dan ajaran agama kepada mereka. Maka tolonglah aku –semoga Allah merahmati kalian- untuk menunjuk tiga orang dari kalian. Jika kalian mau mengundinya silahkan saja. Jika kalian tidak mau mengundinya, maka aku akan memilih tiga orang dari kalian.
Mereka menjawab: “Mengapa harus diundi?! Abu Ayub adalah seorang yang sudah tua sedangkan Ubai adalah orang yang punya penyakit. Yang tersisa hanyalah kami bertiga.”
Umar lalu berkata: “Mulailah kalian bertiga dari Himsh. Jika kalian sudah merasa senang di sana, maka tunjuklah salah seorang untuk tinggal di sana dan satu orang harus berangkat ke Damaskus dan seorang lagi ke Palestina.
Maka ketiga sahabat Rasul Saw tadi melaksanakan apa yang diperintahkan Umar Al Faruq untuk berangkat ke Himsh. Kemudian mereka meninggalkan Ubadah bin Shamit untuk menetap di sana. Abu Darda pergi ke Damaskus dan Muadz bin Jabal berangkat ke Palestina.
Di sanalah Muadz bin Jabal terkena wabah.
Saat ia sudah menjelang wafat, ia menghadapkan dirinya ke arah kiblat dan terus-menerus membacakan nasyid ini:
Selamat datang kematian, selamat datang!
Akhirnya sang tamu telah datang setelah lama pergi Dan kekasih telah datang untuk mengobati kerinduan
Kemudian ia memandang ke arah langit sambil berdoa:
“Ya Allah, Engkau sungguh mengetahui bahwa aku tidak pernah mencintai dunia dan suka tinggal lama di dalamnya untuk menanam pepohonan, dan mengalirnya sungai.
Akan tetapi aku suka tinggal di dunia ini untuk memberikan minum kepada orang yang kehausan, menunggu terjadinya kiamat dan berdampingan dengan para ulama di halaqah-halaqah dzikir.
Ya Allah, terimalah jiwaku sebaik Kau menerima sebuah jiwa yang beriman!”
Kemudian ruhnya terlepas dari badan jauh meninggalkan keluarga dan famili, sebagai ruh yang mengajak ke jalan Allah dan berhijrah di jalannya.