നബി(സ)ക്ക് 35 വയസ്സ് പ്രായമായ ഘട്ടത്തില് ഖുറൈശികള് കഅബ പുനര്നിര്മാണമാരംഭിച്ചു. കാരണം ഇസ്മാഈലിന്റെ കാലംമുതലുള്ള ഒരു പഴയകെട്ടിടമായിരുന്നു അത്. വലിയ കല്ലുകളാല് നിര്മിതമായ 9 മുഴത്തില് കവിഞ്ഞ ഉയരമില്ലാത്ത, മേല്കൂരയില്ലാത്ത കെട്ടിടം. ഇതുകാരണം മോഷ്ടാക്കള് അതിലെ നിക്ഷേപങ്ങള് തട്ടിക്കൊണ്ടുപോകുമായിരുന്നു. പുറമെ കാലപ്പഴക്കം അതിനെ ദുര്ബലമാക്കുകയും ചുമരുകളില് വിള്ളല് സൃഷ്ടിക്കുകയും ചെയ്തു. പ്രവാചകത്വത്തിന്റെ അഞ്ചുവര്ഷം മുമ്പുണ്ടായ ശക്തിയായ ഒരു വെള്ളപ്പൊക്കത്തില് കഅബക്ക് കേടുപാടുകള് സംഭവിക്കുകയുണ്ടായി. സ്വാഭാവികമായും ഖുറൈശികള് കഅ്ബ പുനര്നിര്മാണത്തിന് നിര്ബന്ധിതരായി. പലിശപ്പണമോ വേശ്യയുടെ സമ്പാദ്യമോ ഒന്നും തന്നെ ഇതിന്റെ നിര്മാണത്തിന് വിനിയോഗിക്കില്ലെന്ന് അവര് ഏകകണ്ഠമായി തീരുമാനമെടുത്തു. പക്ഷേ, കഅബ പൊളിക്കുന്ന കാര്യം അവര്ക്ക് ഭയമായിരുന്നു. അവസാനം മഖ്സും ഗോത്രക്കാരന് വലീദുബ്നുല് മൂഗീറ അതിനു ധൈര്യപ്പെട്ടു. പ്രശ്നമൊന്നുമില്ലെന്ന് കണ്ട് മറ്റുള്ളവരും അദ്ദേഹത്തെ തുടര്ന്നു. അങ്ങനെ ഇബ്റാഹീംനബി പടുത്തുയര്ത്തിയ അടിത്തറവരെ അവരെത്തി. ഭിത്തിയുടെ നിര്മാണം അവര് ഗോത്രങ്ങള്ക്കിടയില് വിഭജിച്ചു. ഓരോ ഗോത്രവും കല്ലുശേഖരിച്ച് നിര്മാണം തുടങ്ങി. നിര്മാണത്തിന് നേതൃത്വം നല്കിയത് റോംകാരന് ബാഖൂം എന്നുപേരുള്ള ശില്പിയായിരുന്നു. നിര്മാണം ഹജറുല് അസ്വദ് (ശ്യാമശില) സ്ഥാപിക്കുന്നയിടം വരെയെത്തിയപ്പോള് അത് പ്രതിഷ്ഠിക്കാനുള്ള യോഗ്യതയാര്ക്കാണെന്ന കാര്യത്തില് അഭിപ്രായവ്യത്യാസമുണ്ടായി. നാലോ അഞ്ചോ ദിവസം നീണ്ടുനിന്ന ഭിന്നത ഒരാഭ്യന്തരയുദ്ധത്തിന്റെ വക്കോളമെത്തി. അബുഉമയ്യത്തുബിന്മുഗീറതുല് മഖ്സുമിയുടെ സാന്ദര്ഭികമായ ഇടപെടല് പ്രശ്നം പരിഹരിച്ചു. ആദ്യം വാതില് കടന്നുവരുന്ന വ്യക്തിയുടെ തീരുമാനത്തിന് പ്രശ്നം വിടാമെന്ന് വെച്ചു. അതിനര്ഹത അല്ലാഹു നല്കിയത് തിരുനബിക്ക് തന്നെയായിരുന്നു. അദ്ദേഹം കടന്നുവന്നപ്പോള് അവര് മന്ത്രിച്ചു. 'ഇതാ അല്അമീന്! (വിശ്വസ്തന്) മുഹമ്മദ്' എല്ലാവര്ക്കും സന്തോഷമായി. അവര് പ്രശ്നം അദ്ദേഹത്തിന്റെ മുന്നില് സമര്പ്പിച്ചു. അദ്ദേഹമവരോടൊരു വിരിപ്പ് ആവശ്യപ്പെട്ടു. വിരിപ്പില് ഹജ്റുല്അസ്വദ് എടുത്തുവെച്ച് ഗോത്രനായകന്മാരോടെല്ലാം അതിന്റെ അറ്റം പിടിക്കാന് ആവശ്യപ്പെട്ടു. എന്നിട്ടത് പൊക്കി അതിന്റെ സ്ഥാനത്തേക്ക് കൊണ്ടുവരാന് ആവശ്യപ്പെട്ടു. അവരത് കൊണ്ടുവന്നപ്പോള് അദ്ദേഹം തന്റെ കൈകൊണ്ടെടുത്ത് അതിന്റെ സ്ഥാനത്ത് സ്ഥാപിക്കുകയും ചെയ്തു. ഈ വിധിതീര്പ്പ് അവര്ക്കെല്ലാവര്ക്കും തൃപ്തിയായി.
ശുദ്ധമായ പണംകൊണ്ട് മാത്രം നിര്മാണം പൂര്ത്തിയാക്കാന് കഴിയില്ലെന്ന് കണ്ടപ്പോള് അവര് അതിന്റെ വടക്കുവശത്ത് ഏകദേശം ആറ് മുഴം വരുന്ന ഭാഗം ഒഴിവാക്കിയിട്ടു. ഇത് ഹിജ്റ് എന്നും ഹത്വീം എന്നും പേരിലറിയപ്പെടുന്നു. (ഇന്ന് കഅബക്ക് പുറത്ത് കമാനാകൃതിയില് ഉയര്ന്ന തിണ്ണയായി കാണപ്പെടുന്ന ഭാഗം). അവരുദ്ദേശിക്കുന്നവരല്ലാതെ അതിനകത്ത് പ്രവേശിക്കാതിരിക്കാന് അതിന്റെ വാതിലുകള് അവര് നിലത്ത് നിന്ന് ഉയര്ത്തി സ്ഥാപിച്ചു. ഉയരം പതിനഞ്ച് മുഴം എത്തിയപ്പോള് ആറുതൂണിന്മേലായി മേല്ക്കൂര സ്ഥാപിക്കുകയും ചെയ്തു.
നിര്മാണം പൂര്ത്തിയായപ്പോള് കഅബ ഏകദേശം സമചതുരാകൃതിയായി. ഉയരം പതിനഞ്ചു മീറ്ററും. ഹജറുല് അസ് വദിന്റെ ഭാഗവും അതിന്റെ എതിര്ഭാഗവും പത്തുമീറ്റര് വീതം വീതിയും. ഹജറുല് അസ് വദ് നിലത്ത് നിന്ന് ഒന്നരമീറ്റര് ഉയരത്തിലാണുള്ളത്. മറ്റുരണ്ടു ഭാഗങ്ങളും 12 മീറ്റര് വീതം വീതിയാണുള്ളത്. വാതില് നിലത്ത് നിന്ന് രണ്ട് മീറ്റര് ഉയരത്തിലും. ശരാശരി 0.25 മീറ്റര് ഉയരത്തിലും 0.30 മീറ്റര് വീതിയിലുമായി ചുറ്റുഭാഗത്ത് അടിത്തറയുണ്ട്. ഇതിന് ശാദിര്വാന് എന്നു പറയുന്നു.