1941年1月1日，八路军军政学院在延安举行开学典礼，毛泽东、朱德、徐向前、肖劲光等出席。这所学院是中共中央和八路军总部直接领导的高级军政干部学校，八路军政治部主任王稼祥和副主任谭政分别兼任正副院长，张如心任教育长。地址在大砭沟。
1941年11月21日，中共中央、中央军委发布《关于成立军事教育委员会和军事学院的决定》。决定以朱德、叶剑英、肖劲光、谭政、许光达、郭化若、叶季壮、王斌、王铮等9人组成军事教育委员会，由朱德负责领导。为了加强高级军事干部的学习，决定成立军事学院。同年12月，中共中央决定将八路军军政学院与抗大三分校合并成为军事学院。1942年1月1日正式成立，校址在王家坪。朱德任院长，叶剑英任副院长。全院分为高干队与特殊队两部分。高干队训练旅、团级干部，特殊队又下设5个队：两个炮兵队，一个工兵队，一个参谋队，一个俄文队。
1943年2月，中共中央军委任命徐向前为军事学院院长，李井泉为政治委员兼政治部主任。同年3月，党中央决定抗大总校从晋东南返回陕甘宁边区绥德办学，并令军事学院迁往绥德与抗大总校合并。合并后一段时间仍沿用军事学院校名，不久就恢复了抗大的名称。
1942年11月16日，朱德在军事学院第一期学员毕业典礼上讲话说：“同学们出去是要干事的。要想做成几件事，只有老老实实、实事求是，这是八路军的传统方法。一切最好的战略战术，都是实事求是、合乎辩证法的。有什么样的武器，有什么样的敌人和地理条件，就必须打什么样的仗，调皮是不行的。”他还指示：革命是群众干的，没有群众什么也干不成。因此，必须深入到群众中间，才能团结和领导群众前进。并说，目前革命胜利的希望比以前更大了，我们政治上要坚定，永远做一个革命者，使革命成功。
军事学院仅存在了一年时间，培训了一期学员，虽然时间不长，但学院认真贯彻了党中央和中央军委的指示，坚持以教育为中心任务，培养了一批人才，尤其是特种兵人才，为人民军队的建设作出了应有的贡献。