最初にロケットを飛ばしたのが誰なのかはわかっていない。西暦1232年に中国人がモンゴルとの戦争で使ったのが初めだと考える歴史家もいて、その爆発音は20km以上先からでも聞こえたという。また、最初のロケットは花火の一種である「地老鼠」として1264年に登場したという説もある。南宋皇帝の理宗が、母である皇太后の生誕を祝う宴で使ったのだそうだ。確かなのは、14世紀中期に中国の武官であった焦玉が著した『火龍経』が、ロケットについて書かれた最初の文献だと言われている。これには、中国の水軍が使用したと思われる最初の多段式ロケット「火龍出水」についての記述もある。
第二次世界大戦まで、ロケットは射程が短いうえに命中精度も低く、兵器としては頼りなかったが、きれいな花火を作るのには重宝された (ロケット兵器の爆発がきれいではない、という意味ではないが)。1792年、南インドのマイソール王国の君主であったティプー・スルタンは、イギリス東インド会社から国を守るために鉄製のロケットを使った。このロケット技術を「使える」と踏んだイギリスは、固体燃料を使用するコングリーヴ・ロケットを開発。フランスやアメリカといった敵国に対して使用した。1914年、H・G・ウェルズのSF物語に魅せられたロバート・ゴダードは、燃焼室、多段構造、排気速度を向上させるノズルなど、ロケット開発史上重要な意味を持つ複数のアイディアで特許を取得した。
一方、ドイツの科学者も独自に開発したロケットをさらに改良すべく励んだ。もちろん兵器として使うためである。
V1が粗削りで単純な飛行爆弾だったのに対し、V2はターボポンプや慣性誘導システムなど、現在のロケット工学でも使用されている多くの革新的技術を用いた驚異的な新兵器だった。戦争が終結すると、世界の2大勢力になろうとしていたアメリカとソ連が、ドイツのペーネミュンデ陸軍兵器実験場で研究に従事していたロケット技術者をこぞって獲得。宇宙開発競争に突入する。アメリカはこの時、後の宇宙開発の指導者となるヴェルナー・フォン・ブラウンを連れ帰っている。世界初の人工衛星を打ち上げ、最初に人類を宇宙に送ったのはソ連だったが、核弾頭を搭載した大陸間弾道ミサイル (ICBM) を開発したのはアメリカが先だった。