バビロン帝国は紀元前2000年頃、ユーフラテス川とティグリス川の間、現在のバグダード南西に位置する土地で成立した。当時のこの地の人々は、バビロン人ではなくアモリ人と呼ばれていた。スムアブムという首長が隣接する都市カザルからの独立を宣言したことがバビロン第1王朝の始まりである。ただしバビロンは、この王朝で最も有名な支配者、ハンムラビ王が登場するまでは弱小の都市国家に過ぎなかった。

ハンムラビはバビロンの社会基盤を改善し、同盟、裏切り、征服の数々を経て領土を広げていった。彼はこの帝国を、刑罰の扱いを詳細に記した「ハンムラビ法典」によって支配した。実際、彼の法は驚くほど具体的かつ合理的だった。この法典の「目には目を、歯には歯を」は現在でもよく知られているが、窃盗の罰 (たとえば雄牛を盗んだ場合は元の値段の30倍を支払うことが定められていた) や医療事故に対する補償も具体的に記されていた。特に「有罪が証明されるまで無罪と推定される」という、当時としては画期的な概念が含まれていた点は重要である。

軍事遠征のために国を空けることの多かったハンムラビだが、彼は遠隔地からも統治の手をゆるめず、急速に拡大する帝国に君臨しつづけた。42年に及んだその治世が終わる頃、ハンムラビはメソポタミア南部全域を支配していた。バビロンは帝国の首都としての地位を確立し、メソポタミアの富と権力の中心となった。

紀元前1750年にハンムラビが死去した後、バビロンは衰退した。巨大な帝国をまとめていた理念や同盟、武勇を継ぐ者は誰もいなかった (少なくとも生存中に神格化された者は一人としていなかった)。ハンムラビの後継者サムス・イルナの治世に帝国は崩壊を始める。ハンムラビが拡大した領土はアッシリア人に侵食され、その後の王たちも国境を維持できず、バビロンは再び弱小の都市国家へ没落していった。

その後数百年にわたり、バビロンは幾度も敗北し、略奪され、征服される。不作や強力な統治者の欠如、外部との紛争のため、国内の体勢すら建て直せず、ヒッタイト人、カッシート人、カルデア人、アラム人、最終的にはアッシリア人によって支配された。だが、カッシート人の支配下でバビロンは再び息を吹き返す。都市の名はカランドリアシュに改められたものの、特に学問の分野で発展を見せ、数学、医学、天文学で名を馳せた。これによりバビロンは、400年以上後に再び征服されるまで命脈を保つことができた。

アッシリアによる支配の後期、アッシリア王センナケリブの統治下にあったバビロンは、絶え間ない混乱と反乱にさらされつづけた。この都市を焼き払う以外に事態を終息させる方法はないと判断したセンナケリブは、バビロンに火を放った。城壁は崩れ、街は廃墟と化し、神殿や王宮も破壊された。この所業に衝撃を受けたセンナケリブの息子たちは、償いとして父王を亡き者とし、その後は都市の再建に努めた。

紀元前612年には、カルデアのナボポラッサル王がバビロン再建に着手した。彼はまず同盟を結ぶことから始め、その息子のネブカドネザル2世により、バビロンは古代有数の美しい都市として再興された。ネブカドネザル2世は、エ・テメン・アン・キのジッグラトやイシュタル門など、芸術的な建造物を次々と築いた。また、妻のために空中庭園を建設させたとも言われているが、その正確な場所はわかっていない。

他の多くの地域と同様、紀元前500年頃にバビロンはペルシアの大王キュロス2世により滅ぼされた。キュロス2世とその後のダレイオス1世の統治下で、バビロンはペルシアの第9総督領首都、ペルシア帝国の政治的中心地となり、学問と芸術の都の地位に返り咲く。その後200年、バビロンは繁栄をつづけた。しかし、やがて暴動が発生するようになり、負担に見合う構造改革がおこなわれないまま増税が課された後はいっそう激化した。

アレキサンドロス大王の征服により、バビロンは富と知識を再び取り戻した。征服からの12年間は、過ぎ去りし黄金時代の名残りがこの都市に息づいていた。しかし、アレキサンドロスの死と将軍たちによる無分別な領土の分割、そして一部の住民の「移送」により、この都市国家はまたしても商業的重要性を失ってしまう。

征服、破壊、再建を繰り返したにもかかわらず、バビロンが歴史から消えずに存在しつづけることができたのは、卓越した学問と建築技術のおかげである。空中庭園がバビロンに実在したかどうかはともかく、この都市には驚嘆に値する建築物が他にいくつも残されている。征服を経ても、バビロンが完全に荒廃して不毛の地になることはなかった。それどころかこの地の征服者たちは、それまでの景観を残すことを許した。現在はイラクに属しているこの都市の遺跡には、イシュタル門や額石、床の一部までもが残され、発掘の (もしかすると再建の) 時を待っている。