Perjuangan Masa Khalifah

• Abu Musa adalah orang kepercayaan dan kesayangan Rasulullah SAW. Ia juga menjadi kepercayaan dan kesayangan para Khalifah setelah Nabi dan para sahabat beliau.
• Sewaktu Rasulullah SAW masih hidup, bersama Mu'adz ibn Jabal, ia diserahi mengurus Yaman. Setelah Rasulullah SAW wafat, ia kembali ke Madinah untuk memikul tanggung jawabnya dalam jihad besar yang sedang diterjuni oleh pasukan Islam melawan Persia dan Romawi.
• Di masa pemerintahan Khalifah Umar, ia diangkat sebagai Gubernur Bashrah.
• Kemudian, Khalifah Utsman mengangkatnya menjadi Gubernur Kufah.