대략 '군사 시설을 설계 및 건축하고 군사 수송 및 통신 경로를 유지하기 위한 기술 및 업무'로 정의되는 군사 공학의 역사는 로마 군단 시대에 뿌리를 두고 있습니다. 당시 로마의 각 군단에는 요새와 도로의 건설에 특화된 공병대가 배치되어 있었고, 또한 이들은 적의 견고한 도시를 짓밟는 데 필요한 캐터펄트, 공성추와 공성탑을 구축하는 임무까지 감당했습니다. 하지만 서양에서는 로마의 몰락 이후로 500년이 넘는 시간 동안 군사 공학의 발전이 거의 이루어지지 않았습니다. 하지만 중세 시대 후기에는 포위 공성전이 요구되었고, 덕분에 군사 공학의 발전이 다시 한 번 가속화되었습니다.

화약의 개발과 함께 대포를 견뎌낼 수 있는 요새를 설계하고 대포를 요새 근처로 이동하여 효과를 얻을 수 있는 방안을 모색해야 했던 군사 공학가들은 매우 중요한 인적 자원으로 거듭났습니다. 참고로 흙으로 만든 요새는 돌로 쌓은 요새보다 효율성이 높았으며 흙벽을 강타한 포탄은 대부분 둔탁한 소리를 내며 바닥으로 떨어졌습니다. 머지 않아 군사 공학가들은 전문성을 갖추기 시작했습니다. 예를 들어 프랑스 군대에서 처음 선을 보인 공병에게는 적군의 포탄이 사방으로 튕겨 날라가지 않도록 지그재그 형태의 참호를 구축하는 임무가 주어졌습니다. 이러한 참호는 적의 요새를 향했으며, 아군의 보병과 포병을 적군의 탄환과 포탄으로부터 보호하는 역할을 했습니다. 영국군의 굴착병들은 적군의 성벽 밑에 터널을 뚫어 폭발물을 설치해야 했으므로 매우 위험한 보직이었습니다.

한편 르네상스 시대의 공학가들은 새로운 유형의 요새와 무기를 개발하기 시작했고, 심지어는 다빈치 마저 군사 공학에 발을 들여 놓았습니다. 프랑스의 원수, 세바스티앙 르 프레스트르 드 보방(1633-1707년)을 비롯한 실용주의 공학자들은 루이 14세의 전쟁 당시 자신들을 적으로부터 보호할 수 있는 새로운 종류의 요새와 전략을 고안해 냈습니다. 잠깐의 휴전 기간 동안에는 군사 공학자들이 국경을 요새화하고 다리와 교각을 건설 및 관리하여 병력의 기동성을 개선할 수 있는 방안을 모색하기 시작했습니다. 1800년대에는 전신기가 발명되었고 이들은 통신 수단과 지휘 체계를 유지할 수 있는 방법을 찾아내야 했습니다. 제1차 세계대전이 발발했을 무렵, 이미 군사 공학자는 근대 전쟁의 필수적인 존재로 자리잡은 상태였습니다.