Ali sebenarnya ingin sekali menghindari perang. Dia mengirim surat kepada Thalhah dan Zubair, agar keduanya mau berunding untuk menyelesaikan perkara itu secara damai. Namun, ajakan tersebut ditolak. Akhirnya, pertempuran yang dahsyat pun berkobar. Perang ini dikenal dengan nama “Perang Jamal (Unta)” Karena, Aisyah dalam pertempuran itu menunggang unta. Ali berhasil mengalahkan lawannya. Zubair dan Thalhah terbunuh, ketika hendak melarikan diri. Sedangkan Aisyah, ditawan dan dikirim kembali ke Madinah.
Khalifah Ali bin Abi Thalib r.a. menjalankan sistem pemerintahaan sebagaimana khalifah sebelumnya, baik dari segi kepemimpinan ataupun manajemen. Dalam mengangkat seorang pemimpin, beliau mendelegasiikan wewenang dan kekuasaan atas wilayah yang dipimpinnya. Seorang memiliki kewenangan penuh untuk mengelola wilayah yang dikuasainya, namun khalifah tetap melakukan pengawasan terhadap kinerja pemimpin tersebut.
Khalifah senantiasa mengajak pegawainya untuk untuk hidup Zuhud, berhemat, dan sederhana dalam kehidupan. Begitu juga, untuk selalu memperhatikan dan berbelas kasihan terhadap kehidupan rakyatnya. Beliau juga mengajarkan sistem renumirasi. Selain itu, beliau juga konsisten terhadap kepentingan masyarakat secara umum.
Akibat terjadinya perselisihan pendapat dalam pasukan Ali, maka timbullah golongan Khawarij dan Syi’ah. Khawarij adalah golongan yang semula pengikut Ali, setelah berhenti perang Siffin mereka tidak puas, dan keluar dari golongan Ali, karena mereka ingin melanjutkan peperangan yang sudah hampir menang, dan mereka tidak setuju dengan perundingan Daumatul Jandal.
Mereka berkomentar, mengapa harus bertahkim kepada manusia, padahal tidak ada tempat bertahkim kecuali Allah. Maksudnya, tidak ada hukum selain bersumber kepada Allah. Khawrij menganggap Ali telah keluar dari garis Islam. Karena itu, orang-orang yang melaksanakan hukum tidak berdasarkan Kitab Allah maka ia termasuk orang kafir.