1972年11月21日，周恩来在听取有关部门关于葛洲坝工程问题的汇报时说：“解放后二十年我关心两件事，一个水利，一个是上天。”
周恩来之所以把水利列为自己最关心的事情之一，是因为中国是一个农业大国，又是一个水旱灾害频仍的国家。九百六十万平方公里的国土上，约有一百万平方公里的面积依靠江河湖海的堤防保护，而这些地区正是我国经济最发达、人口最稠密的地区。另一方面，又有非常广大的土地长期受到缺水的困扰。因此，兴修水利、根治江河，发挥其综合效益就成了定国安邦的重大课题。在周恩来任总理的二十六年间，他直接领导和参与的水利建设工程遍布中华大地，为子孙后代造福无穷。
水利工程不仅要大力兴修，而且要认真对待，讲求质量，这是一个问题的两个方面。周恩来在兴修水利上特别有“临事而惧”的精神，他强调：水利计划很复杂，要专门研究，“水利工程是与水打交道，一点也马虎不得，马虎一点，马上出问题，这是关系到人民生命财产的问题。”
鉴于水利工程的复杂性，周恩来对每一条大江大河的治理，对每一个时期水利工作的方针任务都亲自主持、审定，召集专家反复论证。并到实地去调查研究。作为长江流域规划和三峡工程建设的总负责人，他告诫相关人员说：长江是个不平凡的对手，可不能等闲视之啊。1958年2月末到3月上旬，周恩来率领大批干部和中外专家，乘船从武汉到重庆，专门考察长江和三峡，一路上着重察看了长江防洪重点工程荆江大堤，三峡大坝坝址三斗坪、南津关。在南津关，周恩来亲自用地质锤敲下岩洞中的岩石，拿在手中反复观察，还探身到一个支洞中观察岩石的裂隙和斑痕。在三斗坪，他对照地质剖面图，逐段逐节审视岩芯情况。三斗坪是坚硬细密的花岗岩，而南津关是易于溶蚀的石灰岩，周恩来由此断定在三斗坪建高坝比南津关理想。后来又经反复讨论，肯定了三斗坪方案，从而使三峡坝址选择取得重大突破。1959年，周恩来领导制定了《长江流域综合利用规划要点报告》。这个报告在基本摸清长江干流和主要支流的特点及其相互关系的基础上，初步确定了综合治理开发长江的总体规划方案。1970年，周恩来又主持研究和建造葛洲坝水利枢纽工程，从项目审定到设计方案的重大修改等关键问题，他都一一过问，在充分讨论后才决定。
与长江相比，黄河的治理更令人头痛。俗话说，“黄河斗水，泥居其七”。黄河的年泥沙流量达十多亿吨，为世界河流之最。泥沙的淤积使黄河屡经改道，河床不断增高，成为名副其实的悬河。历代统治者都在黄河的肆虐面前束手无策。
1955年，中央决定在陕西、河南交界的三门峡修建大型水利枢纽，责成国务院迅速组成工程局设计施工。由苏联专家主持设计的这一工程规模宏伟，正常蓄水水位为海拔三百六十米，库容高达六百四十七亿立方米，将淹没关中土地两百万亩，迁移人口一百万。
三门峡工程在1957年4月上马后，周恩来仍很不放心。1958年4月，他亲临现场，进一步研究商定三门峡大坝的设计和建设问题。会议召开四天后，他作总结性发言。
周恩来强调三门峡工程要以“确保西安、确保下游”为原则。考虑到黄河积久难治的泥沙问题，他坚持对大坝设计高程打折扣，要求按三百五十米建设，规定1967年以前水库蓄水水位不得越过三百四十米。原大坝泄水孔底槛设计高程为三百二十米，苏联专家的考虑是水位高，发电多，泄水孔底槛低了没有意义。周恩来则认为泄水孔底槛高了，泄水不利，泥沙排不出，回水将危及西安及整个关中平原，建议按三百米设计，并表示只能让到这一步，因此实际施工时下降了二十米。
当时有人对三门峡以上水土保持效益过分乐观，并借此为原设计方案辩护。周恩来指出，三门峡以上的水土保持工程难以在短期内见效，因而工程并非越大越好，并当场说：如果我估计保守了，我甘愿做愉快的右派。
三门峡工程自1960年9月下闸蓄水后，库区泥沙越积越多，并迅速向水库土游的潼关到渭水口发展，形成了所谓的“翘尾巴”。到1964年6月淤积的泥沙达三十八亿多立方米，照此下去，不出十年八年，三门峡水库将会被泥沙填平，而且堵塞渭河和北洛河的出路，危及关中平原和西安的安全。一时间举国为之心焦。知情的水利专家慨叹，若不是周恩来想问题周全，头脑冷静，事情闹得还会更大。
事已至此，关于善后问题有三种意见，一是主张维持现状，寄希望于工程上游的水土保持效益；二是主张干脆将大坝炸掉，长痛不如短痛，毛泽东便有此种想法；第三种意见则主张改建。
周恩来仔细分析比较了三种意见。对于第一种意见，他说，要求在五年内把西北高原上的水土保住，我看砍了头也没办法。要叫我去，也不能接受这个任务，因为这是不可能办到的。将大坝炸掉行?？周恩来想，这不仅是前功尽弃，而且浪费巨额资金，因此申明不到万不得已决不采取这种极端作法。排除了这两种意见后，周恩来力主改建，确认改建有利于解决问题，不动就没法解决问题。改建投资可能多一些，但即便需要八九千万元，也不能不花。在三门峡改建的问题上，不少人有顾虑，觉得这是国内外闻名的工程，改建了影响不好，因此最好维持现状。周恩来对这种慕虚名而招实祸的做法大不以为然。他说：“世界上未知数大于已知数，建设上的事未被认识的很多。”所以，改建并不意味着丢面子。
周恩来拍板后，一期改建工程从1965年动工，到1968年完成。具体办法是在左岸打两个进口高程为二百九十米的泄流排沙隧道，同时将八条引水发电钢管中的四条下卧十三米，改为泄流排沙道。当库区水位在三百一十五米时，80%的泥沙被带出库区，效果比较显著。此后，周恩来又具体部署了第二期改建工程，1973年完成后，三门峡水利枢纽的问题得到了初步缓解。
周恩来在回顾三门峡工程修建时说：当时决定三门峡工程就急了点。头脑热的时候，总容易看到一面，忽视或不太重视另一方面，不能辩证地看问题。他反复提醒人们：“建设时期丝毫骄傲自满不得，丝毫大意不得。”