Dalam perang Uhud saat kaum muslimin mengalami kekalahan dan kaum musyrikin mulai meneriakkan: “Tunjukkan kepadaku dimana Muhammad! Tunjukkan kepadaku dimana Muhammad! Saat itu Abu Ubaidah adalah salah seorang dari jamaah yang melindungi Rasulullah Saw dengan dada mereka dari serangan tombok musyrikin.
Saat perang sudah usai, gigi geraham Rasulullah pecah. Kening Beliau memar. Dan di pipi Beliau ada dua buah biji baja yang menempel. Maka Abu Bakar As Shiddiq datang menghampiri Rasulullah Saw untuk mencabut kedua biji bahwa tersebut dari pipi Beliau. Maka Abu Ubaidah berkata kepada Abu Bakar: “Aku bersumpah kepadamu, biarkan aku saja yang melakukannya.” Maka Abu Bakar pun membiarkan Abu Ubaidah melakukannya. Lalu Abu Ubaidah merasa khawatir jika ia mencabut dengan tangannya maka akan membuat Rasulullah Saw merasa sakit. Maka Abu Ubaidah menggigit salah satu biji baja tadi dengan gigi serinya dengan bergitu kuat. Ia berhasil mengeluarkan biji baja tersebut dan satu gigi serinya pun ikut tanggal… Kemudian ia menggigit biji baja yang kedua dengan gigi serinya yang lain, kali ini ia pun berhasil mengeluarkannya dan satu giginya lagi-lagi ikut tanggal.
Abu Bakar berkata: “Abu Ubaidah adalah manusia yang paling bagus dalam menanggalkan giginya.”
Abu Ubaidah turut serta bersama Rasulullah Saw semua peperangan sejak ia mengenal Rasul hingga Beliau wafat.
Saat hari Tsaqifah, Umar berkata kepada Abu Ubaidah: “Ulurkan tanganmu agar dapat aku bai’at, sebab aku pernah mendengar Rasulullah Saw bersabda: ‘Setiap ummat memiliki seorang Amin (orang yang dipercaya), dan engkau adalah Amin ummat ini).”
Abu Ubaidah menjawab: “Aku tidak akan maju di hadapan seorang pria yang diperintahkan Rasulullah Saw untuk menjadi imam kita dalam shalat, dan kita mempercayainya sehingga Rasulullah Saw wafat.”
Kemudian Abu Bakar pun di bai’at. Dan Abu Ubaidah adalah penasihat dan kawan Abu Bakar yang terbaik dalam masalah kebenaran.
Kemudian Abu Bakar menyerahkan khilafah setelahnya kepada Umar bin Khattab. Abu Ubaidah juga tunduk dan taat kepada Umar. Ia tidak pernah melanggar perintah Umar kecuali satu kali saja.
Apakah engkau tahu masalah apakah yang membuat Abu Ubaidah melanggar perintah khalifah?!
Hal itu terjadi saat Abu Ubaidah bin Al Jarrah sedang memimpin pasukan muslimin di negeri Syam dari satu kemenangan ke kemenangan yang lain, sehingga Allah berkenan untuk menaklukkan semua daerah Syam di bawah komandonya.
Pasukan yang dipimpinnya berhasil menaklukkan sungai Eufrat di daerah timur dan Asia kecil di utara.
Pada saat itu di negeri Syam sedang mewabah penyakit Thaun yang belum pernah diketahui oleh manusia saat itu sebelumnya; Penyakit tersebut berhasil membunuh banyak manusia. Maka Umar bin Khattab berinisiatif untuk mengutus seorang utusan kepada Abu Ubaidah dengan membawa sebuah surat yang berbunyi: “Aku memerlukan bantuanmu tanpa interupsi sedikitpun darimu. Jika suratku ini datang kepadamu pada malam hari, maka dengan segera aku memintamu untuk datang kepadaku tanpa perlu menunggu datangnya shubuh. Jika suratku ini datang kepadamu pada waktu siang. Aku meminta segera kepadamu untuk datang kepadaku tanpa perlu menunggu hingga senja tiba.”
Begitu Abu Ubaidah menerima surat dari Umar Al Faruq, ia berkata: “Aku mengerti kepentingan Amirul Mukminin terhadap diriku. Ia menginginkan agar aku tetap hidup meski yang lainnya binasa.” Lalu ia menuliskan sebuah surat kepada Amirul Mukminin yang berbunyi: “Wahai Amirul Mukminin, Aku mengerti kepentinganmu terhadap diriku. Aku kini sedang bersama para tentara muslimin dan aku tidak ingin menjaga diriku agar terhindar dari penyakit yang mereka derita. Aku tidak ingin meninggalkan mereka sehingga Allah menentukan keputusannya bagi diriku dan mereka. Jika suratku ini telah sampai kepadamu, maka biarkanlah aku, dan izinkan aku untuk tetap tinggal di sini.”
Begitu Umar membaca surat Abu Ubaidah, maka ia langsung menangis dan matanya langsung sembab. Maka orang yang berada di sekelilingnya bertanya –karena merasa heran dengan tangis Umar yang begitu keras-: “Apakah Abu Ubaidah telah meninggal, wahai Amirul Mukminin?” Ia menjawab: “Tidak, akan tetapi kematian telah mengintainya.”
Benar dugaan Umar, karena tidak lama kemudian Abu Ubaidah terkena Thaun. Begitu ia menjelang kematian ia berwasiat kepada tentaranya: “Aku berwasiat kepada kalian, jika kalian menerimanya kalian akan senantiasa berada dalam kebaikan: Dirikanlah shalat, tunaikan zakat, jalankan puasa Ramadhan, bersedekahlah, berhaji dan berumrahlah, saling wasiat, dan taatlah kepada pemimpin kalian dan jangan kalian melanggarnya!
Janganlah dunia membuat kalian lalai. Karena meski seseorang diberi umur 1000 tahun maka pastilah ia akan merasakan kondisi seperti yang kalian lihat pada diriku ini.
Allah telah menetapkan kematian kepada anak Adam dan mereka semua akan mati. Yang paling bijak di antara mereka adalah yang paling taat kepada Tuhannya, dan yang paling mengerti akan hari pembalasan. Wassalamu’alaikum Wr.Wb.”
Kemudian ia menoleh ke arah Muadz bin Jabal seraya berkata: “Ya Muadz, imamilah manusia untuk shalat!”
Begitu ia menghembuskan nafas terakhirnya, maka Muadz pun berdiri dan berseru: “Wahai manusia, kalian telah dibuat kaget oleh seorang pria yang demi Allah aku tidak pernah tahu bahwa aku pernah melihat seorang pria yang begitu lapang dadanya, senantiasa menjauhi kedengkian, dan amat berpesan tentang ummat ini yang lebih baik darinya. Maka mohonlah rahmat Allah baginya dan semoga Allah merahmati kalian!”