学院前身是新四军游击支队随营学校，1938年11月26日创建于河南省杞县傅集，新四军游击支队司令员兼政治委员彭雪枫将军兼任校长。
1940年3月18日随营学校扩建为抗日军政大学第四分校， 彭雪枫继续兼任校长。
1944年9月11日，彭雪枫在战斗中不幸牺牲。1945年3月24日，将抗日军政大学第四分校命名为雪枫军政大学，由新四军第四师师长张爱萍兼任校长。
1946年4月，雪枫军政大学、苏中公学和华中野战军随营干部学校合并组成华中雪枫大学，由粟裕兼任校长。11月25日，由华中雪枫大学、山东军区军政学校、东江纵队以及淮南随营学校和山东军区通信学校等5个单位统一改编为华东军事政治大学，并在山东省莒南县大店举行了学校成立大会暨第一期开学典礼，中央军委任命华东军区副司令张云逸兼任校长，余立金、曾生任副校长。
1949年7月，我军胜利结束渡江战役，宁、沪、杭等大城市迅速解放，为了加速我军的干部队伍建设，中央军委决定，将前华东军事政治大学与三野军政干校合并，正式成立新的华东军事政治大学，并任命陈毅元帅兼校长和政治委员，陈士榘任副校长，钟期光任副政治委员。同年10月18日，在南京孝陵卫举行第一期开学典礼，全校教职员工达3万7千余人。
1950年6月20日，毛主席为华东军大题词:"华东军政大学日进有功，培养大批国防建设人才。"朱总司令员题词:"努力学习军事科学和革命理论，为建设近代化的强大国防军而奋斗。"
1951年1月15日，中央军委决定以华东军大主要部分改建为中国人民解放军第三高级步兵学校，由余立金任校长兼政治委员，刘清明、高锐任副校长。5月2日，"三高"升格组建总高级步兵学校，主要担负全军步兵营、团职军政指挥员培训任务。
1953年1月7日，毛主席亲自为"总高"题写训词，为学院的发展指明了方向。
1959年2月18日，军事学院留下的3个系与"总高"步兵学校合并，成立南京军事学院，"总高"成为该院的办学主体，主要担负中级指挥军官、参谋军官和外军留学生的培训任务，廖汉生、王新亭、刘浩天、张震先后担任学院院长，王平任政治委员。
1969年2月，学院撤销。
1978年1月12日，在南京军区军政干校基础上，恢复组建成立南京高级步兵学校，直属于中央军委，主要培训营、团职军政干部，中央军委任命张荣森为校长，丁秋生为政委。
1981年1月1日，学院改称南京高级陆军学校，学院的收训任务和编制体制也作了较大调整。
1986年6月9日，改称为陆军指挥学院，直属于总参谋部，成为全军唯一的一所陆军中级指挥院校。
1992年1月30日，江泽民同志为学院亲笔题词，勉励全院官兵:"学习运用毛泽东军事思想，研究解决新时期军队建设和未来作战问题。"。
1995年起，学院被总部确定为全军重点建设院校。
1999年6月，更名为南京陆军指挥学院。
2005年，学院被评为全军学员思想政治教育先进院校。
2006年，学院被评为全军教学优秀单位，被军委批准为"2110工程"二期建设的整体条件重点建设院校。
