Rivayete göre, Hz. Ebû Zer [radıyallahu anh] daha müslüman olmadan hakikati aramaya başlamış ve Peygamber Efendimiz’i [sallallahu aleyhi vesellem] görmeden üç yıl önce kabilesinin putlarını reddederek namaz kılmıştı. Şöyle anlatır: “Dedim ki: ‘Allah Resûlü’nü görmeden üç yıl önce namaz kıldım.’ ‘Kimin için?’ diye sordular. ‘Allah için’ dedim. ‘Yüzünü hangi tarafa çeviriyordun?’ dediler. Dedim ki: ‘Hangi yana dönsem Allah’ı görüyordum.’”
Samimiyetle gerçeği arayan kişi, bu arayışın onu götüreceği yeri anlar, bulduğunda ise sımsıkı bağlanır. Mekke’de müslüman olan Ebû Zer [radıyallahu anh] soluğu Kâbe’de aldı ve şöyle haykırmaya başladı: “Kureyşliler! Allah’ın birliğine, Muhammed’in elçiliğine iman ediyorum!”
Bunun üzerine Kureyş ahalisi hemen tekme tokat onu dövmeye başladılar. Hz. Abbas [radıyallahu anh] gelerek onu kurtardı. Fakat ertesi gün yine aynı aşkla Kureyş ulularının içine dalan Hz. Ebû Zer, hakikati haykırmaya, İslâm’ı anlatmaya devam etti. Kureyşliler onu yine dövdüler, Hz. Abbas yine kurtardı.