陕甘宁晋绥联防军司令部成立后，坚决执行党中央指示，实行精兵简政，进行部队整编。1942年10月5日，联防军发出《关于整军的训令》，指出：党中央提出的精兵简政政策，是全党全军渡过难关、迎接胜利的唯一正确的政策。联防军司令员贺龙在《关于整军问题》的报告中，从10个方面阐述了整军的措施和办法，强调“实行精兵简政，部队进行整编”，机关人员裁减充实基层，取消勤务员，调整一批干部送到军事学院受训，一批老弱病残及编余人员，适当处置，并分配参加生产；将部队重新划分防区，各旅担负一定防务，与党政配合，组成分区司令部，分区政委由地委书记兼任，军队中军政委员会及政治部成为同级党委的一个部，但仍保持其上下级直接领导和隶属关系。军事政策与军事行动、大政方针须交党委讨论，但具体军事行动，由司令员、政委决定。
11月13日，陕甘宁晋绥联防军司令部发布命令：陕甘宁边区分设延属、绥德、三边、陇东、关中5个警备区。随后于12月1日，留守兵团政治部（此时尚未成立联防军政治部）发出关于整军政治工作的指示，要求各部队召开各种会议解释整编意义，并在指战员中开展拥护整编，执行整编计划的活动。
1943年秋，党中央决定加紧训练干部、训练部队，进一步提高部队的军事素养和政治素质，以适应战争形势的发展。9月5日，毛泽东电示联防军司令员贺龙：今年“在冬季5个月中实施全军普遍的彻底的军事训练，准备迎接大规模战争”，并强调要“把此事看作一个严重任务”。与此同时，中央军委向联防军发出了认真实行冬季训练的指示，要求把部队训练成一支每个战士都熟悉自己手中武器的精兵。
1942年9月，120师战斗篮球队赴延安参加扩大运动会。毛泽东主席在光华农场西北财经办事处贺龙的窑洞前，接见战斗队员和12师干部时讲话
联防军司令部根据上级有关指示精神，在9月至10月间，先后召开了部队团以上参谋长会议和边区高级军事干部会议，讨论冬季训练的指导思想和训练方法问题，确定了“以兵为主，人人皆兵，个个都练，士兵的教育又应以技术为主”的训练方针，侧重学习射击、投弹、刺杀三大技术。
1943年10月，根据毛泽东关于开展练兵运动的指示，贺龙亲自制订大练兵计划。11月下旬，开始了冬季大练兵。
联防军1943年冬季大练兵到1944年3月结束，成绩显著。358旅考核的结果是：全旅步枪命中率由48.5%提高到了90.3%，重机枪命中率达到了84%，轻机枪命中率达到了68%，山炮命中率达100%，手榴弹投掷距离由平均25米提高到40.69米，并创造了72米的最高纪录，刺杀和超越障碍也都比较熟练。
陕甘宁边区保安司令部副司令员周兴（左一）和许建国在延安
中共中央迅速将联防军的大练兵经验向全军推广，于1944年7月1日发出《关于整训军队的指示》，要求各根据地的武装力量应在不妨碍战斗和生产的条件下，利用一切可利用的间隙，轮番整训部队，训练大批干部，为发展军队准备条件。7月20日，新华社专门介绍了陕甘宁晋绥联防军的群众练兵经验。8月22日，毛泽东、刘少奇、陈毅联名发出《对华中整训部队的指示》，进一步明确部队整训“以练兵为中心”并指出陕甘宁晋绥联防军打破陈规，采用群众运动的练兵方法，是突破历史的新创造。
1944年10月，根据中央指示，以120师359旅主力、358旅湘鄂西籍红军干部及原红四方面军鄂豫皖籍红军干部4000余人组成八路军第1游击支队（通称南下支队），执行发展新四军5师力量，创建以湘粤边界五岭山脉为中心的抗日根据地的战略任务。11月1日，南下支队在延安机场举行誓师大会，毛泽东、刘少奇、周恩来、朱德、任弼时等检阅了南下支队。
各根据地领导机关遵照中共中央的指示，相继发出了整训部队的指示和计划。大练兵运动使部队的政治觉悟和技术、战术水平有了普遍提高，组织性、纪律性得到了进一步加强，为实现由游击战向正规战转变，发展全国武装力量，实行战略大反攻，夺取抗日战争的最后胜利，准备了条件。
1944年4月11日，总政治部副主任兼陕甘宁晋绥联防军副政委、政治部主任谭政受党中央、毛泽东的委托，在延安召开的西北局高干会上作了《关于军队政治工作问题》的报告。报告阐述了军队党的建设一系列重大理论原则，阐明了军队党的建设的地位、作用，明确了军队党的建设的根本任务，揭示了军队党的建设与军队建设的本质联系，提出了军队党的思想建设的一系列原则，提出了军队党的建设要科学化和不断进行制度创新等重要观点。谭政的报告既继承发扬了《古田会议决议》的精神，又结合新的历史条件和新的实践，发展创新了军队政治工作理论和方法，比较全面系统地回答了军队党的建设一些带有根本性的问题，推动了军队党的建设的创新发展。
1944年冬，联防军又进行了大规模的战术练兵。通过冬季大练兵运动，极大地提高了部队的技术、战术水平和组织纪律性，提高了各级干部管理与指挥部队的能力，整顿了部队的军容风纪，有效地克服了游击习气，大大增强了保卫陕甘宁、晋绥根据地，保卫党中央的信心和向日伪军开展攻势作战能力，为准备大反攻和挫败国民党顽固派的进攻奠定了坚实的基础。
陕甘宁晋绥联防军司令员贺龙和政治委员关向应