Mescid-i Nebevi'nin yapılacağı mahal, Resulullah Efendimiz (S.A.V) hicreti esnasında Medine-i Münevvere'ye teşrif ettikkerinde devesi Kasva'nın ilk çöktüğü yer idi. O vakitlerde bu arsa Ensar'dan Sehl ve Süheyl isminde iki yetime ait mirbed (hurma kurutulup saklanan yer) idi.
Hatemü'l - Enbiya Hazretleri'nin gelişi ile Medine şehri müşerref olmuş, nur ile dolmuştu. Sıra Mescid-i Nebevi'nin inşasına gelmişti. Rasülü Ekrem Efendimiz (s.a.v) arsayı mescit yapmak için iki yetimden satın almak istediğini bildirdi. Onlar bedelsiz hibe etmek istediler. Lakin Rasülü Ekrem, münasib görmeyip on miskal (yaklaşık 48 gram) altına satın aldılar ve Hazret-i Ebubekir'e ödemesini emir buyurdular.
Zemini mükemmel seviyeye getirildikten sonra inşaat lavazımatı tedarik edildi. Sonra kazıklar yapılıp yere çakıldı ve mescidin temeli atıldı. Temeline zemine kadar üç zira (1,5 metre civarı) taş ile ördüler, üstüne bine, kerpiç ile yapıldı. Bu ilk inşa sırasında mescidin uzunluk ve genişliği 70 zira idi. Kıble Mescid-i Aksa'dan Mescid-i Haram'a çevirildiğinde mescid 100'er zira murabba/kare şeklinde olarak genişletilmiştir.
Rasülü Ekrem Efendimiz, Mescid-i Nebevi'yi ashabıyla birlikte inşa ettiler, ashabıyla birlikte bizzat taş taşır "Allahümme la ayşe illa ayşü'l-ahireti fağfıri'l-ensara ve'l- muhacirati" buyururdu."Allahım hayat ancak - dünya değil - ahiret hayatıdır.
Ensar ve Mühacirleri mağfıret buyur." ve "Bu taşıdığımız kerpiç vasaire Hayber'in hurma ve üzüm yüklerinden daha hayırlıdır; muhakkak bunun Cenab-ı Hak katında sevabı en çok, faydası devamlı ve sırf ahiret ameli olduğundan daha temizdir" manasında "Hazal'l- himallü la-himali Hayber, haza eberru rabbena ve ather" buyuruyorlardı.