軍事工学の扱う範囲をおおまかに定義すると、「軍事設備の設計および建設や、軍事に関する輸送、通信手段の維持を目的とした技術ないし活動」とすることができるだろう。古代ローマの軍隊においては、砦や道の建設を監督する専門の小部隊が各軍団に存在していたという。ローマに歯向かう都市を破壊するためのカタパルトや破城槌、攻城塔を建造するのも彼らの役目だった。しかしローマ帝国の滅亡後、ヨーロッパの軍事工学は5世紀以上に渡り、ほとんど進歩することがなかった。攻城戦の必要性が生じたことで軍事工学が再び進歩をはじめるのは、中世後期になってからのことである。

火薬が進歩するにつれ、軍事工学は次の2点で重要な意味を持つようになる。1つは、砲弾に耐えうる砦の設計 (初期の技術革新の1つとして、防壁を石ではなく土で作り、砲弾が柔らかい壁に埋まるようにしたことが挙げられる)。もう1つは、自軍の大砲が敵の砦を射程に収められる位置まで前進するための経路の確保である。任務の専門性が高まるとともに、工兵はさまざまな兵科に分かれるようになった。たとえば土木工兵を初めて擁したのはフランス軍で、彼らの任務は砲弾と銃弾が降り注ぐ中、自軍の歩兵と大砲を守るために敵の城壁に向かってジグザグに塹壕を掘ることだった。またイングランド軍には敵の城壁の下までトンネルを掘って爆薬を仕掛ける地雷工兵がいたが、これはおそらく長くつづけられる仕事ではなかっただろう。

ルネサンス期の技術者たちは、数々の新しい砦や武器を考え出した。かのレオナルド・ダ・ヴィンチも、夢の軍事発明に思いを馳せたことがある。もう少し現実的な技術者、たとえばフランス軍将校のセバスティアン・ル・プレストル・ド・ヴォーバン (1633-1707) は、新しいタイプの要塞を発展させ、ルイ14世のもとで戦った際には逆にそれらを攻略する新しい戦術を考案した。工兵たちは束の間の平和の間にも、国境の守りを固め、兵の移動を助ける道や橋を建設し、それらの維持に努めた。1800年代に電信技術が発達すると、工兵たちは通信と命令伝達の経路を維持する任務も負うことになる。第一次世界大戦がはじまる頃には、工兵は近代戦に欠かせない存在となっていた。