Ekspansi dimulai dari ibu kota Syria, yakni Damaskus yang jatuh pada 635 M. Setahun kemudian setelah tentara Bizantium kalah di pertempuran Yarmuk, seluruh daerah Syria berada di bawah kekuasaan Islam.
Iskandaria, ibu kota Mesir, dapat ditaklukkan tahun 641 M. Kemudian Al-Qadasiyah, sebuah kota dekat Hirah di Iraq jatuh pada tahun 637 M. Perluasan dilanjutkan ke ibu kota Persia, al-Madain yang berhasil dikuasai di tahun yang sama.
Dengan demikian pada masa kepemimpinannya, wilayah kekuasaan Islam sudah meliputi Jazirah Arab, Palestina, Syria, sebagian besar wilayah Persia, dan Mesir.
Umar menerapkan jumlah reformasi secara administratif dan mengontrol dari tidak jauh kebijakan publik, termasuk mendirikan sistem administrasi kepada kawasan yang baru ditaklukkan. Beliau juga memerintahkan diselenggarakannya sensus di seluruh wilayah kekuasaan Islam. Tahun 638, beliau memerintahkan kepada menambah luas dan merenovasi Masjidil Haram di Mekkah dan Masjid Nabawi di Medinah. Beliau juga memulai babak kodifikasi hukum Islam.
Umar dikenali dari gaya hidupnya yang sederhana, alih-alih mengadopsi gaya hidup dan penampilan para penguasa di zaman itu, beliau tetap hidup sangat sederhana.
Pada sekitar tahun ke 17 Hijriah, tahun ke-empat kekhalifahannya, Umar mengeluarkan keputusan bahwa penanggalan Islam maunya mulai dihitung saat perihal jadinya hijrah.