Rasulullah menyadari bahwa beliau sekarang menghadapi ancaman dan pasukan yang besar. Pertempuran secara terbuka tidak memberi keuntungan bagi Muslimin. Beliau mulai berfikir bagaimana cara mempertahankan Madinah tanpa harus keluar darinya. Kali ini taktik militernya berubah di mana sebelum itu beliau keluar dari Madinah dan menjauhinya serta menyerang kelompok-kelompok yang berencana menyerbu Madinah. Kali ini bentuk ancaman berbeda dan tentu fikiran Nabi pun berubah karena mengikuti perbedaan ancaman itu.
Kemudian beliau mengadakan pertemuan militer bersama para tentaranya. Beliau ingin mendengar berbagai usulan tentang bagaimana cara mempertahankan Madinah. Lalu Salman al-Farisi mengusulkan agar Nabi menggali suatu parit yang dalam di sekeliling Madinah yaitu parit yang seperti bendungan alami yang dapat menahan laju banjir yang ingin maju, suatu parit yang pasukan berkuda tidak akan mampu melewatinya dan kaum Muslim dapat mempertahankan diri dari belakangnya. Mula- mula usulan itu terkesan agak mustahil diwujudkan namun pada akhirnya Nabi menyetujui usulan Salman itu. Melalui sensifitas militernya yang mengagumkan, beliau mengetahui bahwa situasi cukup genting dan karyaena nia menuntut usaha keras untuk dapat melaluinya. Rasulullah memerintahkan para sahabat untuk menggali parit di sekitar Madinah. Pekerjaan itu sangat berat dan saat itu musim dingin di mana udara sangat dingin. Di samping itu, kaum Muslim sedang mengalami krisis ekonomi yang mengancam Madinah, meskipun demikian, penggalian parti tetap dilaksanakan, bahkan Rasulullah terjun langsung untuk membuat galian dan memikul tanah.
Kaum Muslim dengan semangat yang luar biasa dapat menyelesaikan penggalian parit itu meskipun kehidupan sangat keras dan mereka merasakan kelaparan karena kekurangan harta. Namun semangat pasukan Islam tetap meninggi. Mereka percaya akan datangnya kemenangan dan pertolongan dari Allah SWT.
Allah SWT berfirman:
"Dan tatkala orang-orang mukmin melihat golongan-golongan yang bersekutu itu, mereka berkata: 'lnilah yang dijanjikan Allah dan Rasul-Nya kepada kita.' Dan benarlah Allah dan Rasul-Nya. Dan yang demikian itu tidaklah menambah kepada mereka kecuali iman dan ketundukan." (QS. al-Ahzab: 22)
Pasukan Quraisy mulai mendekati Madinah dan tiba-tiba Madinah berubah menjadi jazirah cinta di tengah-tengah lautan kebencian, lautan itu mulai menghentam jazirah dan berusaha menenggelamkannya dari dalam. Kemudian berteburanlah panah-panah kaum Muslim untuk menghalau pasukan kafir yang cukup banyak. Pasukan kafir mulai berputar-putar di sekeliling parit dalam keadaan bingung: apa gerangan yang telah dilakukan pasukan Islam, bagaimana mereka dapat menggali parit ini?
Kuda-kuda musuh berusaha melalui parit itu namun pasukan Muslim segera menyerangnya. Demikianlah peperangan Ahzab terus berlangsung. Pada hakikatnya ia adalah peperangan urat saraf. Pasukan musuh mengepung Madinah selama tiga minggu di mana serangan demi serangan terus dilakukan sepanjang siang dan mata mereka tetap terjaga sepanjang malam. Bahkan saking dahsyatnya pertempuran itu sehingga kaum Muslim tidak mengetahui apakah pasukan musuh berhasil menduduki Madinah atau tidak, dan apakah para musuh berhasil menembus lubang yang mereka bangun? Allah SWT menggambarkan keadaan peperangan Ahzab dalam firman-Nya:
"(Yaitu) ketika mereka datang kepadamu dari atas dan dari bawahmu, dan ketika tidak tetap lagi penglihatan(mu) dan hatimu naik menyesak sampai ke tenggorokan dan kamu menyangka terhadap Allah dengan bermacam-macam persangkaan. Di situlah diuji orang- orang mukmin dan digoncangkan hatinya dengan goncangan yang dahsyat." (QS. al-Ahzab: 10-11)
Keadaan semakin buruk di mana orang-orang Yahudi membatalkan perjanjian mereka dengan kaum Muslim dan mereka bergabung dengan al-Ahzab. Demikianlah Bani Quraizhah membatalkan perjanjiannya dan mereka lupa terhadap pengkhianatan bani Nadhir dan pembalasan Rasulullah terhadap mereka. Setiap hari keadaan semakin buruk.
Kaum Muslim benar-benar mengalami ujian yang berat di mana fikiran mereka benar-benar kacau. Ketika keadaan mencapai puncaknya kaum Muslim bertanya kepada Rasulullah, "apa yang harus mereka katakan?" Rasulullah memberitahu agar mereka mengatakan: "Ya Allah, kalahkanlah mereka dan tolonglah kami untuk mengatasi mereka."
Doa tersebut keluar dari mulut-mulut kaum yang telah melaksanakan kewajipan mereka dan telah membuat mukjizat mereka dalam menghalau serangan. Jadi, mereka tidak memiliki apa-apa selain doa dan Allah SWT lah Yang Maha Mendengar permintaan hamba-Nya dan Dia yang mengabulkannya. Dia mengetahui orang yang melaksanakan kewajipannya dan akan mengabulkan orang yang berdoa.
Akhirnya, kaum Muslim benar-benar mendapatkan rahmat Allah SWT. Kemudian perjalanan pertempuran bergerak dengan cara yang tidak bisa difahami. Para penyerang menyadari bahwa mereka sebenarnya telah kalah di mana mereka telah menyerang selama tiga pekan namun serangan tersebut tidak memberikan hasil apa pun. Mereka telah mencurahkan berbagai upaya namun tanpa memberikan hasil yang diharapkan dan boleh jadi mereka akan tetap begini selama tiga tahun.
Kemudian datanglah suatu malam di mana kaum Muslim belum pernah melihat malam segelap itu dan angin sekencang itu, bahkan saking kerasnya angin sampai-sampai suaranya laksana halilintar. Bahkan saking gelapnya malam itu sehingga tak seorang pun di antara umat Islam yang mampu melihat jari-jari tangannya atau berdiri dari tempatnya karena saking dinginnya cuaca. Kemudian Rasulullah datang menemui Hudaifah bin Yaman. Beliau tidak mampu melihatnya meskipun beliau berdiri di sebelahnya. Rasulullah bertanya: "Siapa ini?" Hudaifah menjawab: "Aku adalah Hudaifah." Rasulullah berkata: "Oh, kamu Hudaifah." Hudaifah tetap tinggal di tempatnya karena ia khawatir jika ia berdiri ia akan tidak mampu karena saking dinginnya dan akan menabrak Rasulullah. Rasulullah berkata kepada Hudaifah, "Aku kehilangan berita penting tentang keadaan kaum yang menyerang kita."
Hudaifah sebagai mata-mata dari pasukan Islam merasakan ketakutan di mana ia tidak mampu menahan cuaca yang begitu dingin, lalu bagaimana ia dapat berdiri dan keluar dari Madinah menuju ke tempat pasukan musuh dan menyusup di tengah barisan mereka lalu kembali kepada Rasulullah dengan membawa berita tentang mereka. Hudaifah bangkit dari tempatnya ketika Rasulullah selesai dari pembicaraannya. Rasulullah memberikan doa kebaikan kepadanya. Hudaifah pun pergi dan kehangatan keimanannya mengalahkan kegelapan malam dan kedinginan cuaca. Ia keluar dari Madinah dan menyusup di tengah-tengah pasukan musuh. Rasulullah memerintahkannya untuk tidak melakukan tindakan apa pun selain mendapatkan berita dan kembali. Inilah tugas utamanya. Hudaifah sampai di tengah-tengah musuh. Mereka berusaha menyalakan api namun angin segera mematikannya sebelum menyala dan di dekat api itu terdapat seorang lelaki yang berdiri sambil menghulurkan tangannya ke arah api dengan maksud untuk menghangatkannya. Lelaki itu adalah pemimpin kaum musyrik yaitu Abu Sofyan.
Melihat itu, Hudaifah segera memasang anak panah pada busur yang dibawanya dan ia ingin memanahnya. Seandainya ia berhasil membunuhnya, maka kaum Muslim dapat merasa tenang dengannya, namun ia ingat pesan Rasulullah kepadanya agar ia tidak melakukan tindakan apa pun. Kemudian ia kembali meletakkan anak panahnya dan menyembunyikannya.
Abu Sofyan berkata: "Wahai orang-orang Quraisy situasi saat ini tidak menguntungkan bagi kalian, maka pergilah kalian karena aku pun akan pergi." Abu Sofyan melompat ke atas untanya lalu mendudukinya dan memukulnya sehingga unta itu bangkit.
Hudaifah kembali menemui Rasulullah dengan membawa berita mundurnya pasukan Ahzab dan gagalnya serangan mereka. Ketika mendengar peristiwa penarikan mundur pasukan musuh, Rasulullah berkata: "Sekarang kita akan menyerang mereka dan mereka tidak akan menyerang kita." Belum lama pasukan Ahzab kembali ke negerinya dengan tangan hampa sehingga beliau keluar dari Madinah bersama pasukannya menuju ke kaum Yahudi Bani Quraizhah. Orang-orang Yahudi itu telah mengkhianati perjanjian mereka bersama Rasulullah. Mereka menipu Islam di saat-saat genting. Oleh karena itu, mereka harus membayar biaya pengkhianatan mereka sekarang.
Rasulullah memerintahkan agar para sahabat tidak melaksanakan shalat Ashar kecuali di Bani Quraizhah. Kaum Muslim memahami bahwa perintah tersebut berarti mereka akan menerobos benteng kaum Yahudi sebelum matahari tenggelam.
Orang-orang Yahudi menelan kekalahan pahit lalu mereka datang kepada Sa'ad bin Mu'ad agar ia memutuskan perkara mereka. Sa'ad adalah pemimpin kaum Aus dan kaum Aus adalah sekutu orang-orang Yahudi Quraizhah di masa jahiliah. Kaum Yahudi mengharap bahwa mereka dapat memanfaatkan hubungan yang terjalin selama ini sebagaimana kaum Aus membayangkan bahwa tokoh mereka akan memberikan keringanan terhadap sekutu-sekutu mereka. Sa'ad ketika itu terluka dan ia sedang dirawat di kemahnya karena terkena panah kauni Ahzab. Sebagian kaumnya membujuknya agar ia bersikap baik terhadap orang- orang Yahudi, sekutu-sekutu mereka, dan orang-orang
Yahudi membujuknya agar ia bersikap lembut terhadap mereka. Kemudian Sa'ad mengatakan penyataannya yang terkenal: "Telah tiba waktunya bagi Sa'ad untuk memutuskan hukum sesuai dengan kehendak Allah tanpa peduli dengan celaan para pencela." Sa'ad memutuskan agar kaum lelaki dibunuh dan keturunannya ditawan serta harta-harta mereka dibagi-bagikan. Nabi pun menyetujui keputusan tegas Sa'ad itu. Beliau berkata kepadanya: "Sungguh engkau telah memutuskan kepada mereka dengan keputusan Allah SWT dari tujuh langit."