Babilon założono w Mezopotamii – krainie leżącej między Eufratem i Tygrysem – tuż na południowy zachód od współczesnego Bagdadu, około 2000 roku p.n.e., a jego mieszkańcy znani byli wtedy jako Amoryci. Przywódca zwany Sumu-abum ogłosił, że on i jego lud są niezależni od sąsiedniego miasta-państwa, Kazallu, i dał początek pierwszej babilońskiej dynastii. Babilon pozostawał jednak mało znaczącym miastem-państwem aż do nastania rządów słynnego Hammurabiego.
Hammurabi poprawił infrastrukturę Babilonu i poszerzył jego granice poprzez serię sojuszy, zdrad i podbojów. Rządził swoim imperium za pomocą zbioru praw zebranych w Kodeksie Hammurabiego, które szczegółowo określały przestępstwa i sposób wymierzania za nie kar. Prawa Hammurabiego były niezwykle szczegółowe i racjonalne. Większość z nas zna jedną z jego reguł: „oko za oko, ząb za ząb”, ale oprócz niej kodeks precyzował kary za kradzież (kradzież wołu podlegała karze grzywny wynoszącej trzydziestokrotność pierwotnej ceny zwierzęcia), błąd w sztuce lekarskiej i wiele innych wykroczeń. Co istotne, kodeks zawierał też domniemanie niewinności do czasu udowodnienia winy, co było wtedy innowacją.
Hammurabi często opuszczał Babilon, biorąc udział w kampaniach wojennych, ale nie przestawał rządzić z dystansu, dzięki czemu zachowywał osobisty kontakt ze swoim szybko poszerzającym się imperium. Pod koniec swych z górą czterdziestoletnich rządów kontrolował całą południową Mezopotamię. Miasto Babilon stało się stolicą tego imperium oraz centrum mezopotamskiego bogactwa i potęgi.
Po śmierci Hammurabiego w 1750 roku p.n.e. Babilon zaczął chylić się ku upadkowi. Żaden z późniejszych władców nie dorównywał legendarnemu królowi wizją, umiejętnością zawierania sojuszy i wojskowym geniuszem, które spajałyby potężne imperium (żaden z nich nie został też uznany za życia bogiem – dorównanie Hammurabiemu nie było łatwym zadaniem). Upadek Babilonu rozpoczął się za panowania bezpośredniego następcy Hammurabiego, Samsu-iluny. Asyryjczycy powstrzymali ekspansję babilońskich wojsk, a kolejnym władcom Babilonu nie udało się obronić granic, przez co potężne imperium znów zostało okrojone do rozmiarów niewielkiego miasta-państwa.
Przez kolejne kilkaset lat Babilon był wielokrotnie obalany, grabiony i podbijany. Nieudane zbiory, brak silnego władcy i zewnętrzne konflikty utrudniały miastu odzyskanie stabilnej pozycji nawet w obrębie własnych granic. Hetyci, Kasyci, Chaldejczycy, Aramejczycy i wreszcie Asyryjczycy przez pewien czas kontrolowali Babilon. Pod rządami Kasytów w Babilonie (zwanym w tym czasie Karduniaszem) ponownie zapanował względny dobrobyt, szczególnie w dziedzinie nauki – miasto stało się ośrodkiem rozwoju matematyki, medycyny i astrologii. Kasyci panowali nad Babilonem przez ponad czterysta lat, po czym miasto zostało przejęte przez kolejnych zdobywców.
W późniejszym okresie rządów Asyryjczyków, gdy na asyryjskim tronie zasiadał Sennacheryb, Babilon pozostawał w stanie ciągłego niepokoju i buntu, który według monarchy ukrócić mogło jedynie zrównanie miasta z ziemią. Babilon spłonął. Sennacheryb zburzył mury obronne i zniszczył świątynie oraz pałace. Synowie króla byli tym tak zszokowani, że zamordowali własnego ojca, po czym pomogli w odbudowie miasta.
Król Nabopolassar z dynastii chaldejskiej rozpoczął odbudowę miasta w 612 roku p.n.e. Nabopolassar zawiązał stosowne sojusze, a jego syn, król Nabuchodonozor II, uczynił Babilon jednym z najpiękniejszych cudów starożytnego świata. W przypływie architektonicznego ferworu Nabuchodonozor wzniósł ziggurat Etemenanki i bramę Isztar. Podobno zlecił też wybudowanie wiszących ogrodów dla swojej żony, Semiramidy; niestety dotąd nie udało się ich odnaleźć.
Podobnie jak wiele innych regionów około 500 roku p.n.e., Babilon również został podbity przez perskiego władcę, Cyrusa Wielkiego. Pod rządami króla Cyrusa, a później Dariusza I, Babilon został ustanowiony stolicą dziewiątej satrapii (prowincji) oraz centrum administracyjnym całego Imperium Perskiego. Po raz kolejny stał się miastem uczonych i artystów. Przez dwieście lat miasto prosperowało. Jednak z biegiem czasu w Babilonie zaczęły wybuchać bunty, zwłaszcza po zwiększeniu obciążeń podatkowych, któremu nie towarzyszyły zauważalne ulepszenia infrastruktury.
Gdy Babilon został podbity przez Aleksandra Wielkiego, do miasta powróciło bogactwo i uczeni. Przez dwanaście lat region cieszył się ponownym nastaniem złotej ery. Lecz po śmierci Aleksandra, fatalnym w skutkach podziale imperium między jego generałów oraz wywózce części babilońskiej ludności miasto-państwo kolejny raz straciło na znaczeniu.
Pomimo ciągłych cykli podbojów, zniszczeń i odbudowy Babilon pozostał mocno zakorzeniony w naszej pamięci historycznej dzięki okresom akademickiej i architektonicznej świetności. Niezależnie od tego, czy wiszące ogrody rzeczywiście w nim niegdyś istniały, miasto poszczycić się może wieloma innymi cudami architektury. Pomimo licznych podbojów Babilon nigdy nie został całkowicie starty z powierzchni ziemi. Zamiast tego zdobywcy pozwalali – do pewnego stopnia – by niektóre części miasta pozostawały nietknięte. Fragmenty bramy Isztar, gliniane tabliczki, a nawet starożytne podłogi wciąż znajdują się na swoich miejscach w dzisiejszym Iraku i czekają, aż ktoś je wydobędzie i być może odbuduje.