Setelah memangku jabatan kekhalifahannya, Umar melanjutkan kebijakan perang
yang telah dimulai oleh Abu Bakar untuk menghadapi tentara Sasania maupun
Bizantium baik di front timur (Persia), utara (Syam), maupun di barat (Mesir).
Ada beberapa sebab ekspansi Umar bin Khatthab ke wilayah-wilayah tersebut diantaranya: Letak
geografis Syam, Persia, Iraq maupun Mesir adalah wilayah perbatasan dengan
pemerintahan Islam. Daerah Bizantium terletak sebelah barat laut Arab terdiri
dari Syiria, Palestina, Yordania dan Mesir. Mereka sejak awal memiliki hubungan
kurang harmonis dengan bangsa Arab. Antara lain duta Nabi dibunuh orang kristen
di Syiria atas restu Raja Heraklitus. Pada saat itu sungai Nil dan Mesopotamia
adalah lahan yang subur. Jika dibandingkan dengan keadaan Arab yang gersang dan
tandus maka hal ini menarik keinginan para prajurit Islam untuk menguasai
wilayah tersebut sebagai sentrum perjuangan di luar jazirah Arab. Selain itu
Damaskus pada saat itu juga merupakan kota penting. Disini dijadikan kota dan
jalur perdagangan internasional.
Umar melakukan reformasi dalam pemerintahan. Selama memimpin dalam kurun
waktu 10 tahun, ia termasuk pemimpin yang berhasil terutama bagi kesejahteraan
rakyat dan peraturan Islam yang semakin kokoh. Dalam pemerintahannya, ada
majlis Syura’. Bagi Umar tanpa musyawarah, maka pemerintahan tidak akan jalan. Umar membentuk departemen dan membagi daerah kekuasaan Islam menjadi 8
provinsi. Setiap provinsi dikepalai oleh Wali dan setiap provinsi didirikan
kantor Gubernur. Umar juga membentuk kepala distrik yang disebut ‘Amil. Pada
masanya, setiap pejabat pemerintahan sebelum diambil sumpah terlebih dahulu di
audit harta kekayaannya oleh tim yang telah dibentuk oleh Umar.
Kebijakan yang paling fenomenal adalah kebijakan ekonomi di Sawad. Umar
mengeluarkan dekrit bahwa orang Arab termasuk tentara dilarang transaksi jual
beli tanah diluar Arab. Hal ini memancing reaksi anggota Syura’, namun Umar
membeli alasan yaitu kalau mutu tentara Arab menurun, produksi menurun, negara
rugi 80% dari pendapatan dan rakyat akan kehilangan mata pencahariannya (sawah)
menyebabkan mereka akan mudah berontak kepada negara. Sebaliknya sebelum Islam,
tentara Sasania dan Romawi merampas tanah-tanah subur di daerah yang mereka
kuasai dari tangan petani. Sebagai solusi, guna mangatasi gejolak keuangan, ia
memberi gaji tetap tentara dan pensiun kepada seluruh shahabat Nabi.
Khalifah Umar menerapkan pajak perdagangan (bea cukai) yang bernama “Ushur”
setelah ia mendapat laporan bahwa apabila pedagang Arab datang ke Bizantium
ditarik pajak 10% dari barang yang dijual, maka melihat efek positifnya
khalifah menerapkan sistem itu bagi para pedagang non muslim yang memasuki
wilayah kekuasaan Islam. Sementara itu bagi Dzimmi yang berada di dalam negeri
dikenakan sebesar 5% sedangkan bagi orang Islam membayar 2,5% dari harga barang
dagangan.
Disebutkan bahwa Umar juga mengeluarkan beberapa kebijakan yang baru yang
tidak terdapat pada periode sebelumnya, misalnya demi keamanan, menjaga
kualitas tentang Arab, produksi panen yang memadai, menghindari negara dari kerugian
pajak 80%, keadilan, menghindari diskriminasi Arab dan non Arab, khalifah
melarang transaksi jual beli tanah bagi Arab diluar Arab. Al-Maal Ghanimah
selama ini diberikan kepada kepala negara 20% dan tentara 80%, tentara diberi
gaji bulanan.
Wilayah pertama yang berhasil ditaklukkan adalah Damaskus
pada tahun 635 M, dan Yerusalem pada tahun 637 M. dipimpin oleh panglima Khalid bin
Walid pada masa pemerintahan khalifah Umar bin Khattab.
Pada saat menyerahnya Damaskus ke tangan Islam, penduduk dijamin
keamanannya (harta, nyawa, bahkan gereja) dengan syarat mereka mau membayar
upeti atau jizyah.
Serangan balik Heraklius sempat membuat kaum muslimin mundur dari
Yerusalem dan Damaskus, tetapi hanya sebentar saja karena pasukan Romawi
berhasil dihancurkan pada pertempuran Yarmuk (636 M.). Akhirnya kedua
wilayah ini berhasil direbut kembali pada tahun 640 M. yang sekaligus menandai
selesainya penaklukan di Suriah secara total.
Khalifah Umar membagi Suriah menjadi 4 distrik besar yaitu
Damaskus, Hims, Yordania,
dan Palestina
(kemudian ditambah lagi distrik Kinnasrin). Ia juga
memerintahkan kepada seluruh tentara Islam agar tetap tinggal dalam barak-barak
militer, sehingga kehidupan masyarakat lokal tidak terganggu dan tetap berjalan
seperti biasa.
Banyak suku-suku arab yang sudah lama menetap di Suriah akhirnya
beralih ke Islam dan juga suku Ghassan. Khalifah juga menerapkan toleransi
beragama sehingga memberi citra positif bagi pemeluk agama Kristen Nestorian,
Kristen Yacobite dan Yahudi dimana pada masa kekuasaan Romawi mereka dianiaya.
Hal inilah yang dianggap sebagai hal terpenting dari suksesnya pemerintah Islam
menata wilayah mereka disamping pemerintah juga menghindari pemungutan jizyah
secara berlebihan apalagi disertai pemaksaan. Zakat dikenakan kepada
petani hanya sesuai dengan hasil panennya, jizyah diambil dari penduduk yang
masih kafir
sebagai imbalan atas jaminan perlindungan pemerintah dan pembebasan dari wajib
militer.
Khalifah Umar juga membuat zona penyangga diseluruh jazirah arab
(tempat lahirnya Islam), dan setelah Suriah yang terletak di barat jatuh ke
tangan kaum muslimin, pasukan Islam bisa memfokuskan arah ke wilayah timur
untuk menaklukkan Kekaisaran Sassania Persia. Setelah Persia juga jatuh ke
tangan kaum muslimin mereka kemudian memfokuskan kembali ke provinsi Bizantium,
Aegiptus.