Begitu Allah Swt memberikan izin kepada Nabi-Nya untuk berhijrah ke Madinah. Bilal pun termasuk orang yang turut berhijrah ke sana.
Bilal, Abu Bakar dan Amir bin fihr tinggal di Madinah dalam satu rumah. Mereka semua terkena penyakit demam. Kebiasaan Bilal bila sudah terbebas dari penyakit demam, maka ia akan mengangkat suaranya dan mulai menyenandungkan bait puisi dengan suaranya yang merdu. Ia mengalunkan:
Bukan karena syairku, aku tidak bisa tidur malam ini
Di Fakh sementara di sekelilingku terdapat Ikhir dan Jalil
Apakah suatu hari aku akan dapat mendatangi sumber air Mijannah
Dan apakah aku masih dapat melihat Syamah dan Thafil
Tidak heran bila Bilal merindukan Mekkah dan setiap sudutnya. Sebagaimana ia merindukan semua lembah dan pegunungannya. Sebab
disanalah ia merasakan nikmatnya iman. Disanalah ia merasakan penyiksaan manusia hanya demi mencari keridhaan Allah. Dan disana pula ia mampu mengalahkan dirinya dan mengalahkan setan.
Bilal akhirnya menetap di Yatsrib yang jauh dari penyiksaan bangsa Quraisy. Ia mendedikasikan usianya kepada Nabi dan kekasihnya yaitu Muhammad Saw.
Bilal senantiasa turut serta jika Rasulullah Saw melakukan perjalanan.
Dan ia pun juga bersama Rasul, tatkala Beliau pulang.
Ia melakukan shalat bersama Rasul, melaksanakan perang jika Rasul melakukannya. Sehingga Bilal seolah menjadi bayang diri Rasulullah Saw.
Saat Rasulullah Saw membangun masjidnya di Madinah, dan adzan mulai disyariatkan, maka Bilal adalah orang pertama yang menjadi muadzin dalam Islam.
Jika ia selesai mengumandangkan adzan, maka ia akan berdiri di depan pintu rumah Rasulullah Saw dan berkata: “Hayya alas shalah… Hayya alal falah…”
Jika Rasulullah Saw telah keluar dari kamarnya dan Bilal telah melihat Beliau datang, maka Bilal akan mengumandangkan iqamat.
An Najasy raja Habasyah pernah memberikan hadiah kepada Rasulullah Saw dengan 3 tombak pendek yang merupakan barang berharga yang dimiliki oleh para raja. Rasul lalu mengambil salah satu dari tombak tadi, kemudian satunya lagi ia berikan kepada Ali bin Abi Thalib dan satunya lagi ia berikan kepada Umar bin Khattab. Kemudian tombak yang diambil oleh Rasul untuk dirinya diberikan kepada Bilal. Maka tombak tersebut senantiasa dibawa oleh Bilal sepanjang hidupnya.
Bilal selalu membawa tombak tadi pada setiap hari Iedul Fitri dan Iedul Adha. Ia juga membawanya saat shalat Istisqa’. Ia menempatkan tombak tersebut dihadapannya, jika shalat tidak dilaksanakan di masjid.
Bilal turut serta bersama Rasulullah Saw dalam perang Badr. Ia menyaksikan sendiri dengan dua mata kepalanya bagaimana Allah membuktikan janji-Nya, menolong tentara-Nya. Dan ia menyaksikan banyak para kafir Quraisy tewas menemui ajalnya padahal mereka dulu pernah menyiksa Bilal dengan amat keji.
Ia juga melihat Abu Jahal dan Umayyah bin Khalaf mati tertebas pedang kaum muslimin, dan darah mereka mengucur karena tusukan tombak kaum muslimin.
Saat Rasulullah Saw memasuki kota Mekkah untuk menaklukkannya, Beliau didampingi oleh Bilal bin Rabah.
Saat Rasulullah Saw memasuki Ka’bah, Beliau hanya didampingi oleh 3 orang saja, mereka adalah: Utsman bin Thalhah sang pemegang kunci Ka’bah, Usamah bin Zaid orang kesayangan Rasulullah dan anak dari orang kesayangan Beliau, serta Bilal bin Rabah sang muadzin Rasulullah.
Tatkala waktu Zhuhur telah tiba, banyak sekali manusia yang berada di sekeliling Rasulullah Saw. Dan orang-orang kafir Quraisy yang baru masuk Islam secara sukarela atau terpaksa menyaksikan jumlah manusia yang sedemikian banyaknya.
Pada saat itu, Rasulullah Saw memanggil Bilal bin Rabah. Beliau memerintahkan Bilal untuk naik ke atas Ka’bah untuk mengumumkan kalimat tauhid. Maka Bilal pun melakukan perintah tersebut.
Ia mengalunkan Adzan dengan suaranya yang keras.
Maka ribuan leher manusia melihat ke arah Bilal. Ribuan lisan manusia yang mengikuti ucapan Bilal dengan hati yang khusyuk.
Sedangkan mereka yang di dalam hatinya terdapat penyakit merasakan adanya kedengkian dan kebencian yang membuat hati mereka menjadi tercabik-cabik.
Begitu Bilal mengucapkan kalimat berikut dalam Adzannya: “Asyhadu Anna Muhammadan Rasulullah” Berkatalah Juwairiyah binti Abu Jahal: “Demi umurku, sungguh Allah Swt telah meninggikan sebutan namamu. Adapun shalat, maka kami akan melakukannya, akan tetapi demi Allah, kami tidak menyukai manusia yang pernah membunuh orang-orang yang kami cintai.” Ayahnya Juwairiyah terbunuh pada perang Badr.
Khalid bin Usaid berkata: “Segala puji bagi Allah yang telah memberi kemurahan kepada bapakku sehingga ia tidak turut menyaksikan kejadian hari ini.” Bapaknya Khalid telah mati satu hari sebelum terjadinya penaklukan Mekkah.
AlHarits bin Hisyam berkata: “Celaka, andaikan aku sudah wafat sebelum aku melihat Bilal berada di atas Ka’bah.”
Al Hakim bin Abi Al Ash berkata: “Demi Allah, ini adalah musibah besar jika seorang budak Bani Jumah bersuara dari atas bangunan ini.”