群众路线的思想方法和工作方法是中国共产党在工作实践中逐步形成和完善的。
中国共产党在建党初期，就朦胧地提出了“群众路线”。1921年党的一大通过的第一个纲领明确提出了“把工农劳动者和士兵组织起来”的要求，可以说是群众路线思想的萌芽。1922年党的二大通过的《关于共产党的组织章程决议案》明确提出：“我们既然是为无产群众奋斗的政党，我们便要‘到群众中去’，要组成一个大的‘群众党’；我们既然要组成一个做革命运动的并且一个大的群众党，我们就不能忘了两个重大的纪律：（一）党的一切运动都必须深入到广大的群众里面去。（二）党的内部必须有适应于革命的组织与训练。”所以，“我们的活动必须是不离开群众的。”这是目前党的文献中最早使用“群众”概念、最早阐述如何做群众工作的党的决议。党的二大至六大通过的《中国共产党章程》都没有关于党的群众工作和群众路线的任何直观文字表述。但是，这几次大会通过的许多决议案都有发动群众、组织群众、宣传群众、争取群众等方面的工作部署和要求。比如二大通过的关于工会运动与共产党的议决案、三大通过的农民问题决议案、四大通过的对于农民运动之议决案、五大通过的对于共产主义青年团工作决议案等，都有所涉及。总之，在建党时期和大革命时期，中国共产党注意到了做群众工作的问题，看到了群众工作的重要性，也明确了工作的重点对象是群众，但没有形成成熟的群众路线的思想方法和工作方法。
党的群众路线的真正孕育和产生是在土地革命战争初期。1927年10月，毛泽东率领秋收起义部队上了井冈山，创建了中国第一块农村革命根据地。1928年4月，朱德率领南昌起义部队的余部与毛泽东率领的部队在井冈山会师，组建了中国工农红军第四军。不久，这支部队又开创了赣南、闽西革命根据地。当时，我党面临着如何建设、如何巩固和发展根据地的问题。这些问题关系到党和红军生存和发展，因此也是一个迫切需要解决的问题。回答和解决这些问题，为党的群众路线思想的产生提供了前提条件。在这样的背景下，1928年11月，李立三在同江浙地区党的负责人谈话时提出：“在总的争取群众路线之下，需要竭最大的努力到下层群众中去。”这是中共党内最早提出并使用“群众路线”概念的领导人。1929年9月，由陈毅根据周恩来的谈话和中央会议精神起草并经周恩来审定的《中央给红四军前委的指示信》，强调筹款工作、没收地主豪绅财产要“经过群众路线”，红军给养和需用品问题也要“渐次做到由群众路线去找出路”。这是中共中央文件中最早使用“群众路线”的文件。接着毛泽东在井冈山时期的一系列文章、讲话和指示中，就根据地如何建设和发展的问题，提出和阐述了党的群众路线思想。其中比较地阐述了党和红军与人民群众的关系如何处理、群众工作在党和红军工作中处于怎样的地位、红军是一个什么性质的军队、红军应该采取什么样的战略战术等，强调了深入群众、动员群众、组织群众、相信群众、宣传群众、教育群众、依靠群众、尊重群众、关心群众的问题。毛泽东正是在说明、回答和解决上述关于根据地建设和发展的一系列重大问题中，提出和阐述了党的群众路线思想。1929年12月，红军第四军第九次代表大会在福建上杭古田召开，毛泽东在会上做了报告。毛泽东在会议报告和为会议起草的决议案中指出，红军与白军不同，因为“红军是一个执行革命的政治任务的武装集团”，“决不是单纯地打仗的，它除了打仗消灭敌人军事力量之外，还要负担宣传群众、组织群众、武装群众、帮助群众建立革命政权以至于建立共产党的组织等项重大的任务”。如果离开了这些，“就是失去了打仗的意义，也就是失去了红军存在的意义”。我们的战术是游击战，“分兵以发动群众，集中以应付敌人”。同时指出，党的工作要“在党的讨论和决议之后，再经过群众去执行”。毛泽东在红军第四军第九次代表大会所做的报告和为会议起草的决议案，明确了群众路线“为了谁、依靠谁”的问题，由此说，毛泽东是党在理论与实践相结合的基础上，深刻思考和阐述党的群众路线内容的第一人。随后，毛泽东在《反对本本主义》《关心群众生活，注意工作方法》等文章中反复强调，党要提倡群众化的工作方式，正确而不动摇的斗争策略要在群众的斗争过程中才能产生。
中共中央和中央红军长征到达延安后，全国抗战全面爆发，中共倡导的全国抗日民族统一战线建立，中共担负起领导全国民众抗日的重大使命。由此，建设“全国范围的、广大群众性的、思想上政治上组织上完全巩固的布尔什维克化的中国共产党”这个历史性重大任务被摆在全党面前。如何加强党的建设是中国革命取得胜利的一个至关重要问题。1943年6月，毛泽东为中共中央起草的《关于领导方法的若干问题》的决定，提出了党在做任何工作时，必须采用两种方法，即一般和个别相结合、领导和群众相结合。在论述领导和群众相结合的方法时，毛泽东第一次比较系统地对党的群众路线进行了阐述。他说：“在我党的一切实际工作中，凡属正确的领导，必须是从群众中来，到群众中去。这就是说，将群众的意见（分散的无系统的意见）集中起来（经过研究，化为集中的系统的意见），又到群众中去做宣传解释，化为群众的意见，使群众坚持下去，见之于行动，并在群众行动中考验这些意见是否正确。然后再从群众中集中起来，再到群众中坚持下去。如此无限循环，一次比一次地更正确、更生动、更丰富。这就是马克思主义的认识论。”这一论述，把群众路线的思想方法提高到马克思主义认识论的高度加以认识，对党的群众工作如何去做、党的群众路线如何去实行、为什么必须这样做和这样实行等进行了比较系统、科学、完整的阐述，标志着群众路线的思想方法和工作方法成熟。
1945年，党的七大在延安召开。七大对党的群众路线进行了一次全面、系统、深刻的总结。4月24日，毛泽东在七大做《论联合政府》的报告，其中再次阐述了群众路线。他说：“人民，只有人民，才是创造世界历史的动力。”“我们共产党人区别于其他任何政党的又一个显著的标志，就是和最广大的人民群众取得最密切的联系。全心全意地为人民服务，一刻也不脱离群众；一切从人民的利益出发，而不是从个人或小集团的利益出发；向人民负责和向党的领导机关负责的一致性；这些就是我们的出发点。”他主张，“应该使每个同志明了，共产党人的一切言论行动，必须以合乎最广大人民群众的最大利益，为最广大人民群众所拥护为最高标准。应该使每一个同志懂得，只要我们依靠人民，坚决地相信人民群众的创造力是无穷无尽的，因而信任人民，和人民打成一片，那就任何困难也能克服，任何敌人也不能压倒我们，而只会被我们所压倒”。5月14日，刘少奇在七大做《关于修改党章的报告》，集中论述了毛泽东关于群众路线的思想。他指出，我们党之所以获得伟大的成就，就“在于坚持地实行了为人民服务的基本原则”。党的群众路线“是我们党的根本的政治路线，也是我们党的根本的组织路线”。刘少奇同志在报告中把毛泽东的群众路线思想做了四个方面的梳理和系统概括，即：一切为了人民群众的观点，一切向人民群众负责的观点，相信群众自己解放自己的观点，向人民群众学习的观点。并指出：“有了坚固的明确的这些群众观点，才能有明确的工作中的群众路线，才能实行正确的领导。”这里，刘少奇把群众路线提高到党的根本政治路线和组织路线的高度，从为了人民、服务人民、向群众负责、向群众学习、相信群众等方面概述了群众路线的基本内容。七大通过的新《党章》明确规定：同工人、农民及其他革命人民建立广泛联系；理解党和人民利益的一致性以及对党负责和对人民负责的一致性；倾听群众呼声，了解群众需要，向群众学习；帮助群众实现需要，启发提高群众的觉悟；警戒脱离群众的危险和防止清洗脱离群众的错误倾向。七大确定了党的政治路线是“放手发动群众，壮大人民力量，在我党的领导下，打败日本侵略者，解放全国人民，建立一个新民主主义的中国”。七大是群众路线的思想方法和工作方法形成并被确立为党的根本的政治路线的重要标志。此后，群众路线的思想作风和工作方法为全党熟悉和掌握，自觉普遍地运用在各项工作中。