新中国成立初期，以美国为首的一些资本主义国家对中国实施封锁禁运政策。在这种情况下，一般人都想不出中国和它们改善关系的办法，周恩来独出心裁，提出“民间先行，以民促官”，即通过持久的民间往来去促进政治关系的解冻，突破国家关系的坚冰。
周恩来在上世纪50年代对京剧大师梅兰芳说：文化和经济交流是外交的“两个翅膀”，是外交的“开路先锋”。文化经济交流之所以具有生命力和促进力，是因为它们不像政治关系那么敏感，艺术与体育交流易于被对方所接受，开展经贸合作对双方都有好处。从文化经济两翼入手，有助于消除疑虑和隔阂、加深了解和友谊。这样日积月累，到了一定程度就可以促成政治关系的解冻，而建立起正式的外交关系。说到底，这是外交上的以曲为直、包抄取胜之计。
在周恩来主持下，中国先后成立了中国国际贸易促进会、中国人民对外文化协会、中国外交协会等非官方的民间团体，以这些团体的名义，邀请和接待世界各国经济贸易、艺术文化、教育科技及朝野政要等各方面人士，通过他们认识和了解中国，并把他们的见闻介绍给本国人民。中国也派出相应人员出国访问，从而造成对中国友好的舆论和声势，促进官方态度的变化。60年代以后，许多国家陆续同中国建交，就是以50年代广泛、深入、执著的民间外交为基础的。
中日两国关系的发展，是“民间先行，以民促官”的最好范例。
新中国成立后，日本政府追随美国，对中国采取强硬的敌视政策，但周恩来认为。日本人从人生哲学、经济文化到生活习惯，和中国都有切不断的历史渊源，因此和日本发展关系的潜力是存在的。他强调：对日本既不能太迁就，因为中国老百姓不答应；也不能太勉强，因为日本政府办不到。既要正视六十年，又要考虑两千年，“同几千年的历史比较，六十年算不了什么”。他主张按照“瞻前顾后、日积月累、水到渠成”的方针行事，开拓民间往来渠道，从小到大，从少到多，从浅入深，直至促动其官方立场的转化。
1952年4月，周恩来指示参加莫斯科国际经济会议的中国代表团，主动同参加会议的日本社会党议员帆足计、女参议员高良富及改进党议员宫腰喜助进行接触，邀请他们访问中国，开始了中日民间往来。周恩来亲自布置接待工作，编写《问题与答案》的资料，以便回答他们的问题。通过这次接触，达成了中日第一次民间贸易协定，往返虽然各自不过3000万英镑，但却打通了中日民间交往的渠道，实现了中日关系史上的一次开拓性的突破。
之后，中日贸易额越来越大，第二、三、四次民间贸易协定，渔业扮定以及钢铁协定陆续签署，促成了日侨回国，释放了在押日本战犯，文化体育等领域的往来也日趋频繁。所有这一切都促进了中日两国人民的相互理解和沟通，尤其在日本涌现了一批致力于重建中日关系的友好人士，形成了一支包括各阶层人士在内的极具广泛的对华友好力量。1956年6月28日，周恩来在接见日本国营铁道工会等访华团时欣喜地说：“我看，就照国民外交的方式做下去，日本团体来得更多，我们的团体也多去，把两国间要做的事情都做了，最后只剩下两国外交部长签字，这也很省事。这是很好的方式。”这些民间活动、民间往来虽然总是与官方有直接和间接的联系，但并不等于说就自然而然地能使日本官方改弦更张，更不能说就不需要对日本官方做工作了。相反，民间往来和官方接触要协同进行，落脚点还是在官方。周恩来十分重视与日木官方的联系，提出贯彻“民间来往，官方挂钩”的方针。他说：“因为谈判民间贸易已经触及互设贸易代表乃至政府贸易协定等问题，没有政府的支持、保证是不可能的。归根到底，解决两国关系问题还是要由政府来办。”根据周恩来的要求，我赴日谈判第三次民间贸易协定的代表团成员都在名片上写明官方和民间双重身份，而且把官方头衔摆在前面。代表团在日期间会见了鸠山内阁的大臣，主动邀请政府人士参加我招待会，从而开创了官方接触的先例。
在争取官方的过程中，周恩来坚持对日本政府错误的对华政策及行为进行有理、有利、有节的斗争。1958年3月签订的第四次中日民间贸易协定，受到岸信介政府的破坏。5月，在长崎举办的中国邮票剪纸展览会上，日本暴徒撕毁中国国旗，日本政府竟作为“毁坏器皿”案件草草处理，激起了中国人民的强烈愤慨。为此，陈毅外长受周恩来之命迅速发表声明，谴责岸信介内阁的错误行径，并宣布采取停止签发对日贸易许可证、不再延长到期的渔业协定、中断和取消多批访日代表团的安排等反击措施。中国政府的坚定立场和有力措施在日本朝野引起极大震动，许多有识之士挺身而出，为扭转两国关系的险恶状况而奔走呼号。在此情况下，周恩来代表中方提出打开僵局的“政治三原则”，要求日方：保证不再发表敌视中国的言论；不参与制造“两个中国”的阴谋；不阻挠两国民间正常关系的发展。后又提出“贸易三原则”，即政府协定、民间合同、个别照顾以及政经不可分的思想，强调贸易三原则必须与政治三原则相联系，政治关系和经济关系要能相互影响，相互促进，而不是相反。正是周恩来这种有理、有利、有节的斗争，加上日方友好人士的配合，两国关系得以克服障碍而向前发展。在继岸信介之后的池口内阁时期，两国签署了备忘录贸易协议，双万互设了贸易代表处，有了半官半民的联系渠道，中日关系由此进入了一个新的阶段。历史进入60年代，周恩来审时度势，对战后日本统治阶级某些人物的特点作了精辟的分析，并借用一句成语加以概括：“近之则不逊，远之则怨。”因此对日本一不能软，二不能急，要稳坐钓鱼台。1964年中法建交，有人认为法国和日本同属第二中间地带，法国能做到的，日本不久也能做到，对此周恩来不敢苟同。他认为，现在日本依靠美国的倾向并未根本改变，日本的腰杆还没有法国硬（法国有45亿美元外汇储备，而日本还只18亿美元，且许多是美国货款），还不敢和美国闹。所以说日本现在还不行，但从长远看大有文章可做。
正是基于长远考虑，周恩来不遗余力地推行“民间先行，以民促官”的对日方针，在中日往来上不断掀起新的高潮。周恩来接待日本民间访华团的次数难以统计。他非常懂得心理学和传播学，每次接待都克尽朋友之礼。他坚信访问和宣传具有连锁效应，几个日本人来一趟中国，回去以后就可能影响一大批人。就像滚雪球一样，随着访问的增多，对华友好的呼声也会越来越大。
事实也正是这样，如曾于上世纪60年代初先后访华的日中贸易促进会专务理事铃木一雄和前通产相高奇达之助，便分别于1960年和1961年在《世界》、《中央公论》杂志发表文章，叙述访华时与周恩来的会见情形及周恩来对中日关系的主张和见解。
在许多日本人心目中，周恩来是像诸葛亮那样的“名宰相”，是最了解日本社会和历史的中国人，是对改进中日关系和维护亚洲和平怀有诚意和远见的政治家，还是一个富有情感而又可以信赖的人。日本记者山木忠雄在周恩来逝世后评论说：“中国给人的深刻印象是重信义的国家，是通情达理的国家。这些印象多数是通过周恩来所获得的。正是周恩来这样的人物对宣传现代中国起到了伟大的作用。”