“行政部门”虽然是一个相对新鲜的术语，描述的却是一个比较老旧的概念——由训练有素的官员组成的官僚机构，目的是“高效地”运行政府（因为过度劳累的君主显然不可能独自处理所有事务）。这一表述方式最早是由英国驻印度的行政机构传播开来，并且在100年前由查尔斯·脱利卫连爵士广泛普及，当时英国为那些想为女王效力的人设立了考试（不同于参军）。

行政部门的起源可以追溯到中国（毕竟，他们发明了纸）。秦朝建立了中国历史上第一个中央集权制的帝国，因此需要一个官僚机构。官员建议通过选拔来招人进入行政部门，公元前124年，汉武帝兴建太学并以此培养和测试准官员。到了唐代，官员任命越来越少地依赖举荐而更多地依赖科举考试。在武则天统治时期，整个选拔系统得到发展并在宋代达到顶峰。科举考试测试的是考生对儒家九部经典的记忆以及考生作诗和书法的能力…如果政府官员能够读写，这显然对执政很有帮助。

在西方，组织严密的罗马人为继任官僚机构设置了标准。通过吸收受过良好教育的骑士阶层，并让他们担任政府的要职，奥古斯都大帝创立了皇家行政部门。他们的商业背景使他们尤其善于管理遥远的省份，并且确保罗马统治不会被动摇。在克劳狄一世统治期间，骑士可以预期的良好职业生涯是最终成为一名检察官（“皇帝的代理人”），然后是地方行政长官，其工作地点可能在国外也可能在国内，负责从消防队到粮食供应等所有大小事务。虽然过去了几个世纪，细节有所不同，但是，行政部门从那以后并没有发生太大的变化。