1934年6月中旬，中共吴堡县委成立，为加强对红军地方武装的领导，设立军事部。随后各区设军事科。县苏维埃政府建立后，军事部（科）归政府建制。
1937年8月，八路军驻防吴堡后，成立河防委员会和抗敌后援会，分别负责军事指挥和战争动员。随后全县12个（后合并为6个）国民党联保均派有八路军的驻军代表。1942年5月建立吴堡县人民武装委员会，其后各区乡建立相应组织。
1947年，为适应解放战争的需要，县政府设武装科。1952年秋，为加强人民武装，县武装科改为人民武装部，编制5人，受县委和绥德军分区双重领导。1955年，武装部改称为陕西省吴堡县兵役局，有局长、副政委各1人，助理员9人，秘书、管理员、公务员、炊事员各1人，计15人。1956年，绥德军分区撤销，县兵役局改属榆林军分区。1958年10月，兵役局又改称人民武装部。同年11月，吴堡撤销县建制后，并入绥德县人民武装部。
1961年9月，吴堡恢复县建制，同时恢复人民武装部，并给全县10个公社配备了武装干部。1978年，县人民武装部编制22人，计有正副部长、政委各1人，组训、政工、后勤科长各1人，参谋、干事、助理员2～5人，通信员、司机、炊事员各1人。1982年，全县各人民公社均建立武装部，每社配备武干1～2人。
1985年，乡（镇）武装部配部长1名（副科级待遇），干事1～2名。
1996年，县人民武装部收归军队建制，受榆林军分区和县委双重领导。编制15人，计有部长、副部长、政委各1人，军事、政工、后勤科长各1人，参谋、干事、助理员3人，职工6人。全县8个乡（镇）都建立了武装部，配备了专职武装干部，有部长（副部长）、干事共2人。
