在他完成告別朝覲——從而為麥加朝聖確奠定了基礎——幾個月後，先知穆罕默德於632年六月在麥地那市重病不治而亡，時年62歲。根據遜尼派的文書，穆罕默德的追隨者們選定艾布•伯克爾作為「忠實的指揮官」，他是穆罕默德的繼承人也是四大哈里發之首。相反，什葉派穆斯林認為，先知的女婿及堂弟阿里才是穆罕默德選定的精神和現世繼承人，從而引發一場持續至今的分裂。

在阿布•伯克爾和三位能幹的繼承人對麥地那的統治下，伊斯蘭教勇士們的熱情被先知的遠見所點燃，他們向沙漠和平原各個方向進軍，跨越了波斯、敘利亞、埃及，以及安納托利亞和北非海岸的大部分領域。650年到655年間，他們又將地中海地區的塞浦路斯、克里特島、羅得島以及西西里島的大部分區域加入其版圖，並延伸至拜佔庭帝國。655年，拜占庭皇帝君士坦斯二世親自率領一支艦隊對阿拉伯的猛攻進行反擊，戰爭以失去約500艘戰船及皇帝勉強逃生的結局落敗。在其巔峰時期，四大哈里發帝國曾是迄今為止最大的帝國。

第一任阿拉伯哈里發統治時期，被征服者受到了仁慈對待，多少是因為其遵從穆罕默德教義。戰敗方中的一神論者（基督徒、猶太人、拜火教徒等）可以選擇變成伊斯蘭公民，而且如果他們那樣做了，國家將給予所有的權利和保護（當然，也包括義務）。考慮到他們的聖經除了有些和《古蘭經》相矛盾的地方外，其他還好，所以非穆斯林有權繼續踐行他們的信仰且享有法律權利。這是一個相對寬容的教義，並在之後幾個世紀裡一直為阿拉伯哈里發服務。

正如穆罕默德主張的那樣，伊斯蘭委員會（「伊斯蘭世界」）的管理也是真主的旨意。哈里發奧馬爾是第二個承擔阿拉伯所有埃米爾職責的人，在他的統治下，不斷擴張的帝國被劃分成12個省，各省都有自己的省督來進行日常管理；每個省都任命了六位其他官員，從收稅人到審判長。奧馬爾制定了嚴格的行為準則，如有違反，會受到嚴厲懲罰，他還要求每個官員每年都要去麥加朝聖，並對大家提出的問題進行答辯。為減少腐敗和濫用權力，哈里發為官員發放高工資，並把這點寫進了法律。奧馬爾最終遭到波斯狂熱分子的暗殺，但他用來管理龐大帝國的政策卻沿用了幾個世紀。

656年，第三任哈里發鄂圖曼遭到暗殺後，什葉派支持的阿里被選為下一任哈里發。但身為鄂圖曼同族人和敘利亞統治者的穆阿威葉卻在遜尼派的支持下，叫囂著要報復待在巴士拉的刺客，阿里對此表示反對，因為穆斯林不應該對穆斯林開戰。第一次伊斯蘭內戰——爆發於阿里、穆阿威葉和哈里哲派這三派之間——使穆阿威葉慢慢獲得了哈里發的大部分領土。661年阿里在哈里哲派精心策劃殺死所有伊斯蘭領導人的陰謀中被暗殺。不幸的是，哈里哲派並沒有擊倒穆阿威葉。與阿里幸存的兒子達成協議後，穆阿威葉獲得了哈里發統治的領土，創立了倭馬亞王朝並進而殲滅了哈里哲派。

倭馬亞王朝只持續了不到100百年。但他們試圖擊潰眼前的一切來拯救拜占庭。伊本馬爾萬（685至705年）和蘇萊曼（715至717年）等有才幹的倭馬亞哈里發將伊斯蘭教的旗幟從大馬士革首都插向了高加索、馬格里布、印度次大陸上的信德、安達魯斯（伊比利亞）、撒馬爾罕、河中地區、花剌子模等等。這一過程中，他們建造了文明史上永久存在的第五大帝國。

既是勇士又是建造者的他們在文明社會留下了不可磨滅的印記。例如，阿布德•伊本馬爾萬把阿拉伯語變成了國家的官方語言、統一了伊斯蘭貨幣、組建了郵政系統、重新修繕了麥加的克爾白殿堂，而且為了將事情做得圓滿，還在耶路撒冷修建了圓頂清真寺。其接班人也對這一建築不斷進行修建；他的兒子在圓頂清真寺對面建造了阿克薩清真寺、大馬士革大清真寺，而且修建了很多道路、挖井、穿過山脈挖掘隧道，他做這些主要是為了幫助他的軍隊，但同時也造福了老百姓。在所有倭馬亞王朝中，宗教寬容隨處可見；基督教徒和猶太教徒擔任重要職務，倭馬亞王朝與拜占庭作戰時，根本無需擔心後方基督教人數眾多的敘利亞省。

但是這片至福之地總是麻煩不斷。兩次內戰和740到743年的柏柏爾叛亂削弱了倭馬亞的實力；貌似哈里發所參與的邊境上不斷爆發的戰爭對此也沒有任何幫助。財政枯竭，戰爭是一部分原因，還有一部分原因是哈里發追隨穆罕默德慷慨對待窮人的宣言而制定了一系列福利計劃。最終，哈西姆派，這個什葉派運動的分支，於747年在阿巴斯部落的帶領下採取行動反對哈里發。750年一月，在扎布河戰役中，兩個家族和他們的盟軍碰面了。倭馬亞王朝徹底戰敗；大馬士革於四月開始攻擊阿拔斯王朝，倭馬亞最後一個哈里發於8月死於埃及。倭馬亞王朝的幸存者（數量不多）穿過北非逃至伊比利亞半島，並在那裡建立了科爾多瓦哈里發國（延續到1031年）。

現在輪到阿拔斯王朝來統治這廣闊的阿拉伯土地了，他們管理得還挺好。甚至好到哈里發阿拔斯時期出現了伊斯蘭教的黃金時代，當時穆斯林哈里發因科學、技術、醫學、哲學、文學以及其他重要方面而成為了世界知識和藝術中心。但首先，黑旗下的阿拔斯王朝需要通過改革和政治上的權宜之計來鞏固帝國。

五位哈里發統治時期，軍隊進行了重組，如今包括非阿拉伯人和非穆斯林人。鼓勵人人接受教育，還建了第一座西方造紙廠，這是由塔拉斯戰役中的中國俘虜修建的。實行標準化貨幣，並通過皇室支持來保證穩定性，通過有利的法律和關稅政策來鼓勵貿易。阿巴斯王朝傾向于比倭馬亞王朝更虔誠，而正是通過阿巴斯王朝，伊斯蘭法再次為法律制度制定了標準。但也許，蘇蔔哈納拉最可貴的地方在於他們願意放棄地方政權，而把政權給貴族——將安達魯斯和馬格利布給倭馬亞、摩洛哥給伊德里斯、突尼斯給艾格萊蔔、埃及給法蒂瑪——所有這些都是為了維護烏瑪（通俗地講就是「穆斯林社區」），正如《古蘭經》所推崇的那樣。

到786年，第五任阿拔斯哈里發哈倫賴世德上台時，雖然偶爾有些心懷不滿的部落成員發動叛亂，但帝國整體和平、進步，而且非常富庶。此時的巴格達擁有100萬健康幸福的居民，而查理曼帝國的「偉大」首都亞琛才不過10萬人。哈倫的兒子哈里發阿卜杜拉•阿爾瑪蒙將其父在巴格達建造的智慧宮制度化，讓來自三個大陸的最優秀學者聚集在一起交流思想和文化，既是老師又是學生。這座宮殿是至高無上的人文和科學中心，收錄了文明社會最豐富的書籍——其中有希臘語、波斯語、梵語、拉丁文，還有其他一些歐洲語言和阿拉伯語。宮殿一直維持到1258年旭烈兀可汗帶領蒙古人洗劫巴格達之前。

3個半世紀後，事實必然證明一個比整個羅馬還要龐大的帝國想要逆歷史潮流而行——或者不如說是反抗基督教——是不可能的。在遙遠的西方，收復失地運動進行得如火如荼；倭馬亞王朝的勢力正慢慢退出伊利比亞半島。更為重要的是，羅馬教廷——或至少是烏爾班二世——認為是時候為了統一的基督教將聖地從統一的伊斯蘭教手中「收回」了。因此發動了一系列十字軍東征，從1096年那場倒楣的人民十字軍開始，到取得勝利的第一次十字軍東征（佔據了耶路撒冷，這是所有動亂的根本目的），這給黎凡特帶來了一場在這裡持續數代的大規模屠殺。基督徒和穆斯林之間的鬥爭決定了阿巴斯王朝的剩餘時間。

驅逐異教徒的任務留給了薩拉丁•優素福•本•阿尤布（或者簡稱為薩拉丁）。雖然僅僅是塞爾柱王朝敘利亞長官努爾丁手下的一名指揮官，但他卻被法蒂瑪王朝的蘇丹任命為埃及的維齊爾（伊斯蘭教國家高官）。1174年努爾丁去世後，薩拉丁以埃及蘇丹的身分宣告阿尤布王朝建立，並很快吞併了敘利亞。經歷了幾次暗殺和小型起義之類的事件後，薩拉丁以開羅為基地（雖然他很少在那裡），使伊斯蘭教在新的阿拉伯哈里發統治下又重歸統一。隨後薩拉丁把注意力轉回到對付十字軍上。作為一位真正偉大的軍事指揮官，他隨後想奪回耶路撒冷，並擊潰了黎凡特的大多十字軍國家，而且與獅心王理查在1192年簽訂了《拉姆拉條約》，規定伊斯蘭教要保持耶路撒冷原貌不變，而且允許基督教徒來這座城市朝聖。

隨後的七位阿尤布蘇丹想要遵循薩拉丁的路線繼續前進。但他們卻面臨無法逾越的挑戰。薩拉丁為帝國建立了一套「集體主權」系統，讓每個阿尤布家族成員以一個「小型蘇丹」的身分統治一塊區域，後來，某人被宣佈是權利最高者，他就是阿爾–穆阿扎姆蘇丹。這是一種會導致紛爭的政治模式。還不到兩代人的時間，阿尤布蘇丹王朝就陷入了混亂。各地區開始造反，異教徒們——受熱心的教皇唆使——出動了更多的十字軍來「拯救基督王國」，馬木留克設法推翻了阿尤布王朝在埃及的統治。隨後蒙古人來了。經過了幾年的邊界之爭，蒙古大汗命令他的弟弟旭烈兀將蒙古帝國的邊境擴展到了尼羅河畔。1258年，旭烈兀可汗佔領了巴格達並屠殺居民，其中包括哈里發和他大部分家人。

雖然繼任者的王朝幸存了下來，另一個伊斯蘭帝國也會再次崛起，但「阿拉伯哈里發王朝」卻一去不復返了。對有600多年輝煌歷史的王朝來說，結局著實不太體面，但人們不會忘記這個時代的忠實者。