Maka, Abu Dzar menambahkan, “buat saya yang penting hari ini saya bisa minum air putih, sekali waktu susu saya minumnya, dan saya makan gandum setiap hari Jumat seminggu sekali”. Sederhana sekali keinginan sahabat mulia ini.
Kemiskinan yang ada padanya, tidak membuat Abu Dzar absen dalam beramal. Tercatat, beliau selalu hadir pada setiap peperangan dan selalu mengamalkan dzikir yang diwasiatkan langsung oleh baginda Rasulullah shalallahu alaihi wassallam.
Dari Abu Dzar ra, ia menceritakan, "aku pernah berkata pada Rasulullah Saw, 'wahai Rasulullah, berilah aku wasiat! Rasulullah Saw bersabda, 'hendaklah engkau bertakwa kepada Allah ta'ala, karena takwa adalah akar dari setiap urusan.'
Aku berkata lagi, 'wahai Rasulullah, tambahkan wasiat untukku!' Rasulullah pun bersabda: 'hendaklah engkau membaca Alqur'an, karena sesungguhnya Al-qur'an itu nur (cahaya) bagimu di muka bumi dan bekal yang disimpan di langit".
Pada tahun 23 hijriah atau bertepatan dengan tahun 644 masehi, Utsman bin Affan rodhiallahu anhu diangkat menjadi khalifah ke-3, setelah Abu Bakar Ashidiq dan Umar bin Khattab rodhiallahu anhum.
Prinsip hidup sederhana dan peduli pada sesama, tetap dipegang teguh Abu Dzar Al Ghifari di tempat baru yang ia tinggali, Damaskus, Suriah. Namun, di tempat baru ini ia menyaksikan gubernur Muawiyyah bin Abi Sufyan hidup dalam bermewah-mewahan.
Melihat gaya hidup yang jauh berbeda dari prinsip kesederhanaan yang dipegangnya, membuat Abu Dzar tidak nyaman dan sering mengingatkan para penguasa dengan ayat-ayat ancaman akhirat di Alqur’an. Sang gubernur pun meminta khalifah Ustman bin Affan rodhiallahu anhu untuk memanggil Abu Dzar Al Ghifari kembali ke Madinah.
