Berdasarkan kisah, Masjid Umar dahulu merupakan rumah sahabat Rasulullah, Umar bin Khattab. Masjid ini juga disebut digunakan Rasulullah dan Umar untuk melaksanakan salat Id. Masjid Umar itu kini hanya bangunan dengan kubah serba putih yang tertutup rapat-rapat tanpa bisa dimasuki para jamaah haji yang tengah beribadah di Madinah, dan juga tidak bisa digunakan untuk salat.

Masjid Umar bin Khattab berada diantara bangunan hotel yang hampir selesai. Ketinggian bangunan yang belum rampung itu menyalip ketinggian menara masjid. Tak banyak yang tahu, masjid yang kini terapit dua hotel itu merupakan Masjid Umar bin Khattab.Sayangnya tidak banyak informasi mengenai situs bersejarah ini.