हिजरत के बाद रसूलुल्लाह (ﷺ) ने सब से पहले एक मस्जिद की तामीर फ़रमाई, जिस को आज “मस्जिदे नब्वी” के नाम से जाना जाता है। उस के लिये वही जगह मुन्तखब की गई थी, जहाँ हुजूर (ﷺ) की ऊँटनी बैठी थी, यह जमीन बनू नज्जार के दो यतीम बच्चों की थी, जिस को आप (ﷺ) ने कीमत दे कर खरीद लिया था। उसकी तामीर में सहाब-ए-किराम (र.अ) के साथ आप भी पत्थर उठाते थे, सहाब-ए-किराम जोश में यह अश्आर पढ़ते थे और आप भी उनके साथ आवाज़ मिलाते और पढ़ते:
तर्जुमा: “ऐ अल्लाह ! अस्ल उजरत तो आखिरत की उजरत है, ऐ अल्लाह ! अन्सार व मुहाजिरीन पर रहम फ़र्मा।”
यह मस्जिद इस्लाम की सादगी की सच्ची तसवीर थी, इस मस्जिद के तीन दरवाजे बनाए गए थे, दरवाजे के दोनों पाए पत्थर के और दीवारें कच्ची ईंट और गारे की बनाई गई थीं। सुतून खजूर के तनों से और छत खजूर की शाखों और पत्तों से तय्यार की गई थी। किले की दीवार से पिछली दीवार तक सौ हाथ की लम्बाई थी।
यह मस्जिद सिर्फ नमाज अदा करने के लिये ही नहीं बल्के इस्लामी तालीम के लिये एक दर्सगाह और दावत व तब्लीग़ और दुनिया के सारे मसाइल को हल करने के लिये एक मरकज़ भी थी। इस के इमाम अल्लाह के नबी (ﷺ) और इस के नमाज़ी सहाब-ए-किराम (र.अ) जैसी मुक़द्दस हस्तियाँ थीं।