毛泽东以其独具的辛辣笔调写道：“你们现在已到了山穷水尽的地步。黄维兵团已在十五日晚全军覆没，李延年兵团已掉头南逃，你们想和他们靠拢是没有希望了。你们想突围吗？四面八方都是解放军，怎么突得出去呢？你们这几天试着突围，有什么结果呢？立即下令全军放下武器，停止抵抗，本军可以保证你们高级将领和全体官兵的生命安全，只有这样，才是你们的唯一生路。你们想一想吧！如果你们觉得这样好，就这样办。如果你们还想打一下，那就就打一下，总归你们是要被解决的。”
辽沈战役一结束，南线的战略决战——淮海战役便开始了。
淮海战役是人民解放军在以徐州为中心、东起海州、西止商丘、北起临城、南达淮河的广大地区进行的一次规模空前的战役。集结在这个地区的国民党军队有徐州“剿总”总司令刘峙、副总司令杜聿明指挥下的4个兵团和3个绥靖区部队，加上以后从华中增援的黄维兵团等部，总兵力达80多万人。其中，邱清泉兵团的第五军和黄维兵团的第十八军是南京政府仅存的两支最精锐的主力部队。人民解放军参加这次战役的，有华东野战军16个纵队、中原野战军7个纵队，还有华东、中原军区的地方部队，总共约60多万人，数量少于敌军，装备和交通运输条件更远不如对方。双方的力量对比，和东北战场不同。
当时，蒋介石的打算是：在徐州地区布下重兵，既可寻求同解放军主力决战，又可以退而作为长江一线的屏障，保住它的根本重地——南京和上海；当战局对它不利时，还可以将主力撤至江南，巩固长江防线，阻止解放军过江。因此，如果不能抓住战机，在徐州地区消灭它的主力，让刘峙集团缩回江南，就会给以后的渡江作战和解放江南广大地区带来许多困难，甚至会延长全国革命胜利的时间。作出歼灭刘峙集团于徐州地区这个决断，需要有很大的勇气和魄力。
虽然兵力不如敌人，但毛泽东分析了形势，认为必须抓住有利时机，将敌人主力歼灭于淮河以北，从而为渡江作战直至解放全国奠定基础。在此情况下，必须坚定敢于同敌人进行战略决战的信心。因此，当济南战役结束后华东野战军司令员粟裕提出进行淮海战役时，9月25日毛泽东复电指出甚为必要。10月下旬，中原人民解放军攻克开封、郑州，控制了平汉路和陇海路。国民党军队迅速收缩兵力，对徐州是守是撤举棋不定。为此，毛泽东决定扩大原设想的作战规模，要求中原野战军和华东野战军协同作战，将敌人歼灭于长江以北。为了加强对淮海战役的领导，由邓小平、刘伯承、陈毅、谭震林、粟裕组成总前委，邓小平任总前委书记。
毛泽东对敌我态势作了认真的研究，在吸收前方指挥员意见的基础上，于10月11日制定了淮海战役的作战方针：“本战役第一阶段的重心，是集中精力歼灭黄百韬兵团，完成中间突破，占领新安镇、运河车站、曹八集、峄县、枣庄、临城、韩庄、沭阳、邳县、郯城、台儿庄、临沂等地”，“要用一半以上兵力，牵制、阻击和歼敌一部，以对付邱李两兵团，才能达到歼灭黄兵团三个师的目的。”“第一阶段，力争在战役开始后两星期至三星期内结束”；“第二阶段，以大约五个纵队，攻歼海州、新浦、连云港、灌云地区之敌，并占领各城”，“该地区连原有一个师将共有三个师，故我须用五个纵队担任攻击，而以其余兵力（主力）担任钳制邱李两兵团，仍然是九月间攻济打援部署的那个原则。此阶段亦须争取于两个至三星期内完结”；“第三阶段，可设想在两淮方面作战。那时敌将增加一个师左右的兵力（整八师正由烟台南运），故亦须准备以五个纵队左右的兵力去担任攻击，而以其余主力担任打援和钳制。此阶段，大约亦须有两个至三个星期”。
毛泽东之所以把歼灭黄百韬兵团作为战役的突破口，是因为黄兵团距徐州较远，而且处在山东、苏北两解放区之间，便于南北夹击；歼灭黄兵团还可以将山东和苏北解放区连成一片，切断敌人的海上通道，为第二、第三阶段的作战创造有利条件。
但是，战争形势迅速发展，敌孙元良兵团由郑州进至柳河、商丘附近，同时刘峙将主力部队收缩至徐蚌线两侧。根据这一重大变化，毛泽东及时作了重大的战略调整，10月22日他电示陈毅、邓小平：“为了保障华野全军在淮海战役中完全胜利，请你们准备着，在攻克郑州休整数日后，迅即全国东进，相机攻占开封，或者不打开封，直出徐蚌线。不但钳制孙元良、刘汝明，并且钳制邱李两兵团一部。”同日他电示中野：“以主力于邱李两兵团大量支援之际，举行徐、蚌作战，相机攻取宿县、蚌埠，坚决彻底干净全部地破毁津浦路，使敌交通断绝，陷刘峙全军于孤立地位。”
当毛泽东得知刘峙集团可能南撤的消息后，审时度势，立即作出了同敌人进行战略决战的决心，命令“陈邓直接指挥各部，包括一、二、四、九纵，应直出宿县，一纵在解决一八一师后，应立即去宿县。华野三纵和两广纵队的任务，是对付邱清泉，但应位于萧县地区，从南面向黄口、徐州攻击，以便与宿县我军联系。如敌向南总退却时，则集中六个纵队歼灭之”。同时，毛泽东电示粟裕，命令他“极力争取在徐州附近歼灭敌人的主力，勿使南窜”。
中原野战军和华东野战军根据毛泽东的战略部署，发起了规模巨大的淮海战役。该战役分三个阶段：
第一阶段从1948年11月6日开始，到11月22日结束。战役开始后，华野与中野以迅雷不及掩耳的速度从徐州的东、西、南、北几个方面同时发起攻击。华野从山东等地分三路南下，横扫陇海路北侧三百里宽广大地区的敌军阵地。东路军攻克郯城，中路军在何基沣、张克侠率部起义后，迅速通过该部的防地，进至徐州东侧。山东兵团直取台儿庄等，切断了黄百韬兵团与徐州的联系。苏北兵团经新安镇以东迅速迂回到黄百韬兵团南侧，与山东兵团南北钳合，并阻击徐州的援敌。华野以十个纵队向新安镇发起猛攻。9日黄百韬率四个军向徐州撤退，在运河两岸遭到猛烈打击。10日华野攻占曹八集，切断了黄兵团向徐州的退路，11日，华野将黄兵团包围在碾庄地区。
为了挽救黄兵团失败的命运，蒋介石在令其固守待援之后，令刘峙火速增援黄兵团。邱清泉、李弥两兵团在飞机、大炮、坦克的掩护下，沿陇海路增援，孙元良兵团增防徐州。黄维兵团沿平汉路东援徐州，向蒙城、宿县进攻。蒋介石还调派了东北战场上的败将杜聿明任徐州“剿总”副司令，企图与人民解放军决一死战。
在蒋介石调整部署的同时，毛泽东根据敌我态势的变化，作出了一系列重要指示。11月13日他指示邓子恢和李先念率中野二纵、六纵昼夜兼程，务必于14日，至迟15日赶到黄维兵团的前头，由正面阻止该兵团向毫县、涡阳、永城前进，并要求豫皖苏军区配合行动，迅速破坏黄维通道上的桥梁、道路，迟滞黄维兵团的行动。14日，毛泽东又电示刘伯承等，指出他们的首要任务是阻击邱、李兵团，歼灭黄百韬兵团；在攻占宿县后，迅速南进，歼灭刘汝明部。
华野和中野根据毛泽东的部署，采取了“先打弱敌，后打强敌，攻其首脑，乱其部署”的战法。攻击碾庄从11日正式开始，经过17天的艰苦的运动战和阵地战，至22日歼灭黄百韬兵团10个师约10万人，黄百韬也被击毙。同时，根据毛泽东的指示，在徐州以东、以南地区进行阻援和打援。邱、李兵团共5个军沿陇海路增援黄百韬兵团，企图与其会师，山东兵团和苏北兵团顽强阻击，敌人虽付出了3万人和30辆坦克的代价，仍被阻止在离碾庄50华里以外的大许家一线，眼看着黄百韬兵团被歼灭而束手无策。中野则迅速攻克宿县，切断了徐蚌线，完成了对徐州敌人的包围，并将黄维兵团阻击于宿县西南浍河上游地区。刘汝明、李延年兵团也受到阻击。
至此，淮海战役第一阶段胜利结束，共歼敌17.8万人，完全孤立了徐州，解放了徐州附近的广大地区，为争取淮海战役的全胜创造了极为有利的条件。
第二阶段从11月23日开始到12月15日结束。经过第一阶段的作战，敌人被分割为徐州、蚌埠、双堆集三个地区。徐州守敌迅速将邱清泉、李弥、孙元良兵团收缩，加强防御。南线李延年兵团遭到沉重打击，迟迟不敢北进。这时黄维兵团已进人中野的“口袋”中。
淮海战役开始后，毛泽东筹划了歼灭黄百韬兵团之后的歼击目标，提出先歼南线之敌，先南后北的设想，主攻邱清泉、李弥两兵团，然后夺取徐州。淮海战役第一线的指挥员刘伯承、邓小平、陈毅等根据形势的变化，认为攻打强大的邱、李兵团没有把握，建议先打孤立、疲惫的黄维兵团，只要黄维兵团全部或大部被歼，较之歼灭邱、李兵团更属有利，并认为“歼灭黄维兵团之时甚好”。毛泽东极为尊重第一线指挥员的意见，经过认真研究，他采纳了刘伯承等的建议，决定先打黄维，24日电示刘伯承等：“（一）完全同意先打黄维；（二）望粟陈张遵刘陈邓部署，派必要兵力参加打黄维；（三）情况紧急时机，一切由刘陈邓临机处置，不要请示。”为了防止黄维兵团被围后，徐州之敌南逃，毛泽东重申了将敌人主力歼灭于长江以北的方针，并要求总前委对此作出妥善的部署。
11月25日，黄维兵团被中原野战军包围在宿县西南双堆集地区。廖运周率一〇一师起义。为了敦促黄维等投降，毛泽东于27日为中国人民解放军总部写了广播讲话，命令黄维等放下武器，调转枪口，和人民解放军一起打到南京去。但黄维执迷不悟，依恃兵多、武器精良，仍反复突围，遭到沉重打击，并被压缩到方圆十多里的地区以内，不得不固守待援。在此情况下，毛泽东要求中野“集中火力，各个分割歼灭敌人”。为此，中野进行了大量的近迫作业，作了周密的攻坚准备。
蒋介石为援救黄维兵团，命令邱清泉、李弥、孙元良兵团自徐州南下，刘汝明、李延年兵团由蚌埠北上，企图南北对进，而后南下，以便保存力量。但均遭到人民解放军的顽强阻击。蒋介石又决定徐州之敌从徐州西南绕道南下，避开人民解放军津浦路防御正面，同时令刘峙到蚌埠督促刘汝明、李延年兵团再次北进。
12月1日，杜聿明率邱、李、孙三兵团共27万人弃守徐州南下。杜聿明弃守徐州的计划，毛泽东早已预料到，他于次日电令华东野战军：敌向西逃，你们应以两个纵队侧翼兼程西进，赶至敌人先头堵住，方能围击，不要单靠尾追。经过三天的追击，将敌人包围在永城陈官庄地区，孙元良兵团被全歼。刘汝明、李延年兵团也遭到沉重打击。毛泽东分析了此时的态势，认为不能与敌人长期相峙，必须加速战役进程，决心采取集中兵力围歼黄维兵团，困住杜聿明集团，阻击李延年、刘汝明兵团的方针。为此，12月6日对黄维兵团发起了猛烈攻击，采取了沟壕战术，同时发起了强大的政治攻势。12日，刘伯承、陈毅发出了《促黄维立即投降书》，但黄维拒不投降，遂于13日晚发起总攻，经过一天的激战，全歼黄维兵团，生俘黄维。刘汝明、李延年兵团也被迫撤至淮河以南，杜聿明集团更加孤立，从而加速了淮海战役的进程。
第三阶段，从1948年12月16日开始到1949年1月10日结束。当黄维兵团被歼、杜聿明集团被围时，平津战役已经开始。傅作义所指挥的60万国民党军队为东北野战军解放全东北的胜利所震慑，急忙收缩兵力，企图海运南逃或西窜绥远。蒋介石要求傅作义“万不得已时撤回江南”。为了配合华北战场上人民解放军“隔而不围”，“围而不打”，争取和平解放平津的战略行动，毛泽东决定淮海战场上的人民解放军进行休整，对敌人进行防御。这样就可以麻痹敌人，使傅作义暂不海运平津诸敌南下，实现将国民党军队主力歼灭于长江以北的战略设想，同时可使中野和华野获得休整，使两个战场互相配合，钳制敌人。为此，毛泽东命令在歼灭黄维兵团后，留下杜聿明指挥的邱清泉兵团等余部，两星期内不作最后歼灭之部署，22日又电示粟裕：你们集中华野全军并多休整数日，养精蓄锐，然后一举歼灭杜聿明。只要杜部不大举突围，应休整至下月初，约于1月5日左右开始攻击较为适宜。
根据毛泽东的部署，淮海战场上的人民解放军进行了休整，同时对敌人展开了强大的政治攻势。17日毛泽东为中野、华野司令部写了《敦促杜聿明等投降书》，向被围困的国民党军阵地反复广播。毛泽东以其独具的辛辣笔调写道：“你们现在已到了山穷水尽的地步。黄维兵团已在十五日晚全军覆没，李延年兵团已掉头南逃，你们想和他们靠拢是没有希望了。你们想突围吗？四面八方都是解放军，怎么突得出去呢？你们这几天试着突围，有什么结果呢？”毛泽东最后要求他们：“立即下令全军放下武器，停止抵抗，本军可以保证你们高级将领和全体官兵的生命安全。只有这样，才是你们的唯一生路。你们想一想吧！如果你们觉得这样好，就这样办。如果你们还想打一下，那就再打一下，总归你们是要被解决的。”但是杜聿明始终不肯放下武器。
1949年初，华北野战军和东北野战军完成了对平津之敌的分割包围，平津诸敌已无路可逃，毛泽东立即命令在淮海战场上对敌人发起总攻。1月6日对杜聿明部发起猛攻，经过四天激战，歼灭了邱、李兵团，击毙邱清泉，生俘杜聿明，至此淮海战役胜利结束。
淮海战役从1948年11月6日到1949年1月10日，历时66天，共歼灭国民党军队55.5万多人。国民党军队在南线的精锐主力已被消灭。长江中下游以北的广大地区已得到解放。国民党政府的统治中心南京、上海和长江中游的中心城市武汉已处在人民解放军的直接威胁下。整个南线战局已经根本改观。
淮海战役是三大战役中唯一的人民解放军在总兵力上少于国民党军队的情况下进行的。毛泽东称赞前线指挥员们：淮海战役打得好，好比一锅夹生饭，还没有完全煮熟，硬是被你们一口一口地吃下去了。华东野战军副参谋长张震回忆道：“淮海战役既是与敌人斗力，也是与敌人斗智。”“毛主席的战略思想、作战方针和作战指导原则，是克敌制胜的根本依据。前线指挥员的胆略、智慧和威望，也是不可缺少的。他们从战场实际情况出发，积极贯彻和补充作战方针，并根据情况变化，采取机断处置，适时调整部署，这个环节如稍有失误，也不可能取得战役的全胜，甚至蛋打鸡飞功亏一篑。毛主席十分重视了解下情和发扬集体智慧，善于集中下级的正确意见，充分发挥前线指挥员的主观能动性，并给他们以临机处置的权力，使中央军委的战略意图得到更好的贯彻，这更证明了毛主席的伟大英明。”