公务员考试的前身是中国古代的科举制度。科举制度始于隋朝，在公元605年隋炀帝开设“进士科”时正式诞生，并经过唐、宋、元、明、清等朝代的发展和完善，一直持续到清朝末年，即1905年。科举制度是一种选拔官员的官方考试制度，通过公开竞争考试来选拔人才进入官僚体系。
现代公务员考试制度的建立则是在中国改革开放之后，1982年国家决定对计划经济体制下的干部人事制度进行改革，开始实行公开考试、择优录用。1988年，国家人事部正式成立，标志着国家公务员制度的初步建立，公务员考试逐渐成为选拔国家机关工作人员的主要方式