学院的前身可以追溯到1953年成立的军事工程学院（“哈军工”）装甲兵工程系。
1961年，按照中央军委部署，“哈军工”装甲兵工程系从哈尔滨整体迁址西安，成立装甲兵工程学院。
1969年，迁址北京与第二坦克学校合并成立坦克技术学校，后来又先后更名扩建为装甲兵技术学校、装甲兵技术学院。
1976年，更名为装甲兵技术学校。
1978年，更名为装甲兵技术学院。
1982年，学院开始研究生教育，1986年取得硕士学位授予权。
1986年，复名为装甲兵工程学院。
1998年，取得博士学位授予权。
1999年5月，根据全军院校体制编制调整，学院由总参谋部转隶总装备部。
2004年，装甲兵技术研究所并入装甲兵工程学院。
科研成果
科研项目
据2015年5月中国研究生招生信息网显示，该校近年来共获得国家科学技术进步奖近40项，军队科学技术进步奖370余项;其中坦克履带板新材料、高效能超音速等离子喷涂技术的研究与应用、分布式虚拟现实应用系统开发与支撑环境为该校的特色研究，该校德育工程是全国教育科学"九五"规划重点研究课题。
在国家"七五"计划中，学院共取得400多项科研成果，其中国家发明奖2项、国家科技进步奖33项、军队科技进步一、二、三等奖181项。
由中国人民解放军装甲兵工程学院与杭州工商联会员企业浙江美科斯叉车有限公司、浙江大学、杭州电子科技大学共同完成的"全方位移动平台关键技术研究与系列化产品研发"项目，被评为2014年"浙江省科学技术进步一等奖"。
研究机构
截至2015年5月，学院拥有国防科技重点实验室1个(装备再制造技术国防科技重点实验室)、全军重点实验室1个(全军装备表面工程重点实验室)、国家级工程研究中心1个(机械产品再制造国家工程研究中心)、装备保障研修中心、装甲兵研究所、装备动力研究中心等研究中心。
