Com uma definição geral da "arte e prática de projetar e construir obras militares e manter linhas de comunicação e transporte militar", a engenharia militar data das legiões romanas, em que cada legião tinha um grupo pequeno e especializado dedicado à supervisão das construções de fortes e estradas. Também eram essas pessoas que construíam as catapultas, aríetes e torres de cerco quando era necessário repreender alguma cidade rebelde. No entanto, ao longo de mais de cinco séculos, a engenharia militar não progrediu quase nada após a queda de Roma no ocidente; foi só mais para o final da Idade Média que uma demanda por itens de cerco impulsionaram o avanço da área.

Após o desenvolvimento da pólvora, os profissionais de engenharia militar se tornaram essenciais em duas atividades: construir fortalezas que aguentassem balas de canhão (uma das primeiras inovações foi descobrir que as paredes com terra funcionavam melhor que as paredes com pedras, já que as balas de canhão batiam e eram absorvidas) e imaginar maneiras de aproximar o canhão das fortalezas o suficiente para que o ataque desse certo. Começaram a surgir especialistas em engenharia militar. Os sapadores, por exemplo, surgiram pela primeira vez no exército francês: o trabalho deles era escavar trincheiras em ziguezague em direção à muralha do inimigo para proteger a infantaria e a artilharia, tudo isso durante o ataque de mosquetes e canhões. No exército britânico, esses sapadores mineiros criavam túneis por baixo das muralhas dos inimigos para colocar explosivos... uma carreira sem muita perspectiva de longo prazo.

Enquanto isso, os engenheiros do Renascimento estavam projetando novos tipos de fortalezas e armas; até mesmo da Vinci participou com suas criações militares de voo. Engenheiros mais práticos, como o marechal francês Sébastien Le Prestre de Vauban (1633 a 1707) desenvolveram novos tipos de fortalezas e táticas que poderiam ser empregadas contra o inimigo nas guerras de Luís XIV. Durante curtos períodos de paz, os engenheiros militares começaram a se concentrar na proteção das fronteiras e na construção e manutenção das estradas e pontes para facilitar o deslocamento das tropas. Com o advento do telégrafo no século XIX, manter as linhas de comunicação e comando também deu trabalho. À época da Primeira Guerra Mundial, os engenheiros militares eram indispensáveis para as guerras modernas.