大约在公元前2000年，巴比伦发源于美索不达米亚平原幼发拉底河和底格里斯河之间的土地，也就是现代巴格达的西南部。当时这里的居民并不叫巴比伦人，而是被称作亚摩利人。一位名为苏木-阿布姆的酋长宣布他和他的人民脱离相邻城邦卡扎卢，建立了首个巴比伦王朝。但在其最著名的统治者汉谟拉比掌权之前，巴比伦仅仅只是一个小城邦。

汉谟拉比改善了巴比伦的基础设施，并通过一系列的结盟、背叛和征服扩张了它的边界。他通过《汉谟拉比法典》中收录一系列法律条文来统治帝国，其中详细说明了犯罪和刑罚的处理方式。这些条文不仅具体、而且理性：法典中“以眼还眼，以牙还牙”的表述对大多数人而言均不陌生，它也详细说明了盗窃（偷窃一头牛将被处以原价30倍的罚款）、医疗事故及其他违法行为所处以的惩罚。最重要的是，这部法典包含了犯罪嫌疑人的无罪推定，直到被证明为有罪为止。这在当时可谓一大创举。

虽然汉谟拉比经常外出参加军事行动，但他仍然保持着对国家的远程统治，这使他能够和迅速扩张的帝国保持紧密联系。在为期42年的统治结束时，他控制了整个美索不达米亚南部。巴比伦城被确立为帝国首都，成为了美索不达米亚平原财富和权力的中心。

公元前1750年汉谟拉比去世后，巴比伦走向衰落。他的继任者中没有人有同样的远见、盟友或军事实力来维系这个庞大的帝国（作为汉谟拉比这种传奇领袖的继承人，他们实在难以比肩先辈的高度）。汉谟拉比的直接继任者萨姆苏·伊路那见证了先辈一手打造的帝国走向崩溃。汉谟拉比的继任者们没能守住边界，先前开拓的疆界被亚述人夺走，巴比伦再次变回了一个小城邦。

在之后的几百年中，巴比伦被颠覆、被洗劫，并多次被征服。农作物歉收、缺乏强有力的统治者及外部冲突阻碍了这座城市重新站稳脚跟，甚至在自身边界内也不得安宁。赫梯人、加喜特人、迦勒底人、阿拉米人以及最后的亚述人都曾占领过这片土地。在加喜特人的统治下，巴比伦重新获得了繁荣（当时改名为“柯瑞狄尼阿什”），在数学、医学和占星术学术领域尤其兴旺。他们占据这座城市长达四百多年，直到被另一个征服者占领。

亚述统治后期，在国王辛那赫里布的统治下，巴比伦一直处于动荡和叛乱的状态中。而辛那赫里布认为，只有摧毁这座城市才能结束这种状态。于是整个城市便被烧毁。辛那赫里布攻破城墙，毁掉了这座城市，将宗教庙宇和宫殿悉数摧毁。而辛那赫里布的儿子们对父亲的所作所为感到震惊，在忏悔的情绪中谋杀了他，并开始帮助城市进行重建。

公元前612年，迦勒底国王那波帕拉萨尔再次开始建设这座城市。他开始广结同盟，而之后，他的儿子尼布甲尼撒二世将巴比伦建成了古代世界最美丽的奇迹之一。在尼布甲尼撒建造的一系列艺术建筑中，便有埃特曼安吉神塔和伊丝塔城门。据说他还委托妻子建造了巴比伦空中花园，但其所在地至今仍不可考。

和公元前500年的许多其他地区一样，巴比伦也落入了波斯的居鲁士大帝之手。在居鲁士二世和大流士一世的统治下，巴比伦成为了第九行省的首府，同时也被定为波斯帝国的行政首都。它再次成为了一个学者和艺术家趋之若鹜的城市。两百年来，这座城市欣欣向荣。然而，随着时间的推移，这座城市发生了叛乱。原因是税收不断增加，但民生的改良却乏善可陈。

巴比伦见证了亚历山大大帝的征服，他再次为这座城市带来了财富和知识。十二年来，这个地区回荡着过去黄金时代的回音。亚历山大去世前，不明智地将土地分给了麾下的将军们，外加部分人口的“转移”，这座城邦再次陷入了商业上的窘境。

尽管在征服、破坏和重建之中不断循环，巴比伦依然凭借着学术和建筑方面的卓越表现而深深扎根在了历史记忆当中。无论传说中的空中花园是否真正存在过，这座城市仍然拥有其他建筑奇迹。尽管曾经被征服，但巴比伦从未完全被夷为平地或消亡殆尽。相反，征服者们进行了一定程度上的保留。在现今伊拉克，古老遗址中仍然发现了伊丝塔城门、石板，甚至地板的碎片。更多遗迹还在等待着重见天日，甚至重建。