Menjelang detik-detik kematiannya, ‘Umar bin al-‘Ash berkata, “Ya Allah, Engkau telah memerintahkan kami (untuk melakukan kebaikan), akan tetapi kami mendurhakainya dan meninggalkanya. Sebaliknya, Engkau telah melarang kami (untuk melakukan keburukan), akan tetapi kami justru mengerjakannya. Tidak ada yang mampu kami lakukan kecuali mengucapkan “Laa ilaaha illallah.””

Beliau pun kemudian mengulang-ulang kalimat “Laa ilaaha illallah” hingga beliau meninggal dunia.