La administración pública es un término relativamente nuevo que describe algo bastante viejo: una burocracia compuesta de funcionarios que gestionan con "eficacia" el Estado (ya que el rey no podía encargarse solo). El término se usó por primera vez para referirse a la administración por parte del imperio británico de la India, y Sir Charles Trevelyan la popularizó hace un siglo cuando Gran Bretaña estableció un sistema de exámenes para aquellos que deseaban servir a la Corona (fuera del servicio militar).
Los orígenes de la administración pública se remontan a China (al fin y al cabo, inventaron el papel). Con el establecimiento por parte de la dinastía Qin del primer imperio chino centralizado surgió la necesidad de una burocracia administrativa. Las contrataciones de la administración pública se hacían en función de las recomendaciones de los oficiales locales, y en el año 124 a. C. el emperador Wu de Han creó una institución para formar y examinar a los empleados públicos. Durante la dinastía Tang, los exámenes fueron imponiéndose a las recomendaciones como método de contratación. El sistema se expandió bajo el mandato de Wu Zetian y llegó a su apogeo con la dinastía Song. El examen ponía a prueba los conocimientos del candidato sobre los cinco clásicos y los cuatro libros del confucianismo, su capacidad para componer poesía y su caligrafía (es importante que un burócrata sepa leer y escribir).
Los romanos, siempre tan organizados, sentaron las bases de las futuras burocracias de Occidente. El emperador Augusto seleccionó a los équites, clase intermedia entre los plebeyos y los patricios, para ocupar cargos de responsabilidad en la administración de las provincias lejanas debido a su conocimiento de los negocios. Con Claudio, los équites podían llegar a ser procuradores, dedicados normalmente a las finanzas públicas, y prefectos, repartidos por todo el imperio y con atribuciones que comprendían desde el suministro de cereales hasta las brigadas de extinción de incendios. Aunque ha ido evolucionando a lo largo de los siglos, las cosas no han cambiado mucho en la administración pública desde entonces.