Joanesburgo tem uma história de riqueza e conflitos. A terra onde fica Joanesburgo é habitada por humanos há milhões de anos; em sua história bem mais recente, foi ocupada por povos san, sotho-tswana e outros povos africanos. Porém, ondas sucessivas de impérios europeus alterariam irreversivelmente a África do Sul, inicialmente com os holandeses e depois com os ingleses. Quando estes substituíram aqueles, os colonos holandeses foram para o norte, em direção ao interior da África do Sul, e se estabeleceram nessa região. Então, nos anos 1880, na região que se tornaria Joanesburgo, um colono descobriu a jazida de ouro de Witwatersrand.
A cidade cresceu rapidamente depois da descoberta, com os mineiros afluindo à região em busca de ouro, senhores de terras buscando controlar território e trabalhadores de todo o sul da África atrás de trabalhos nas minas. Tornou-se um lugar turbulento, com mineiros, gângsteres e outros indivíduos de toda a região, até mesmo uma indústria de lavanderia dominada por zulus. Enquanto os africâneres holandeses e os colonos ingleses deram seus nomes à cidade nascente ("Johannes" era o nome holandês mais popular à época), grande parte da população era africana.
A região era então controlada pela Zuid-Afrikaansche Republiek — a República Sul-Africana dos bôeres (holandeses), um Estado que resistira à expansão britânica na Primeira Guerra dos Bôeres e existiu brevemente como república independente. O país não sobreviveria ao Império Britânico na Segunda Guerra dos Bôeres, que despovoou Joanesburgo (e viu a chegada da comunidade chinesa).
Esse foco nas minas acabaria por definir Joanesburgo. Soweto, a comunidade de mineiros africanos negros, cresceu a ponto de se equiparar ou superar a da própria cidade central; sob o sistema racista do Apartheid, implementado totalmente em 1948, esses trabalhadores sofreram restrições de movimento e de direitos. Essas tensões irromperam no levante de Soweto, em 1976, quando estudantes negros marcharam contra o Apartheid. A polícia reagiu atirando neles. Em consequência, Soweto e o Congresso Nacional Africano assumiram o protagonismo da resistência ao Apartheid, culminando na ascensão ao poder do CNA em 1994, que marcou o fim do Apartheid.
Atualmente, Joanesburgo é a maior cidade da África do Sul. A mineração perdeu importância, apesar de ainda ocorrerem conflitos entre os mineiros e a polícia, mas a cidade continua focada na indústria.