黄龙、延清战役后，国民党军胡宗南部整编第一军南调，整编第二十九军主力驻守在延安、甘泉、富县等地。在榆林驻防的仅有国民党邓宝珊部第二十二军部及地方部队共1万余人，且处于孤立状态。据此，彭德怀认为南攻延安条件尚不成熟，而北攻榆林可扫清北线障碍，造成以后南下的有利形势，遂于1947年10月22日指挥西北野战军主力第一、第三、第六纵队（经中央军委批准，于1947年10月11日由教导旅和新编第四旅组成，罗元发、张贤约任正、副司令员，徐立清任政治委员）及绥德军分区第四、第六团，由绥德地区出发，发动第二次进攻榆林战役。
1947年10月27日至31日，西北野战军扫清了榆林外围的据点，攻占了城南的三义庙、凌霄塔两个重要阵地。11月2日至8日，野战军先后集中火力，采用坑道爆破等方法两次向榆林城垣发起猛攻，均因准备不足未能奏效。此时，邓宝珊率暂编第十七师由绥远南进增援榆林，宁夏马鸿逵部整编第十八师师长马敦静率领由第一六八旅、暂编第九旅、骑兵第十旅及宁夏保安团共3.5万人组成的宁夏援榆兵团也逼近榆林。根据敌情的变化，彭德怀决定野战军除一部包围榆林外，集中主力西移打敌援兵。14日至15日，在元大滩等地歼灭“宁马”援军4000余人后，迫使该敌于16日绕道乌拉尔林沙漠，与邓宝珊带领的暂编第十七师会合，向榆林城逼进。彭德怀随即令西北野战军撤出战斗。
二次进攻榆林战役，由于西北野战军攻城准备和对敌兵的增援力量估计不足，虽歼敌6800余人，但自己也付出4330多人伤亡的代价。部队整休以后，彭德怀深入野战军各部队，深刻总结了这次战役的经验教训。