南昌起义前，中国共产党人没有独立地领导过武装斗争。所以对起义的组织领导者、中共前敌委员会书记周恩来来说，迫切需要一个政治上可靠、军事上可资的得力助手。此人既要有秘密组织大规模兵暴经验，又要有丰富的作战指挥经验。
周恩来选中了刘伯承。
刘伯承不负众望。他首先根据周恩来指示，到二十军军部协助贺龙拟制起义计划，并协助指挥二十军攻占朱培德的第五方面军总指挥部。起义成功后，他又出任参谋团参谋长，直接指挥策划起义部队随后的行军作战行动。
南昌起义后成立的参谋团，成员有周恩来、贺龙、叶挺、朱德、刘伯承等人。在确定参谋团领导的问题上，周恩来回忆说:"参谋团当时没有人任主任。后来我就指定刘伯承同志来做参谋长，他起初谦虚，不肯答应；后来我说一定要你来做，他才担任参谋长职务。"
后来在起义部队南下、连日行军作战的情况下，参谋团实际成为起义军的指挥核心和领导中枢。刘伯承在其中发挥了重要作用。
8月2日拂晓，从回马岭又赶来了后来人民解放军的两位元帅: 前委军委书记聂荣臻；第四军二十五师七十三团三营七连连长林彪。
聂荣臻、林彪两人没有赶上8月1日南昌城的起义。因为第四军第二十五师当时未驻南昌城，而驻在南昌以北靠近九江的马回岭。为使这部分力量加入南昌起义队伍，起义发动前，周恩来派聂荣臻去马回岭，任务是向第二十五师周士第等人传达前委武装起义的决定，并领导该部起义。聂荣臻当时在中共中央军事部工作，南昌起义前经周恩来指定任前敌军委书记。他到马回岭之后，立即开展紧张的起义发动工作。8月1日中午，马回岭地区第二十五师的两个团又一个连计3000人，在聂荣臻、七十三团团长周士第、七十五团副营长孙一中率领下，脱离张发奎控制，向南昌开拔，参加起义。
这支队伍的行动坚决果断。当第二方面军总指挥张发奎、二十五师师长李汉魂率领卫队营乘火车追赶上来、想把队伍拉回去的时候，担任殿后任务的七十三团立即猛烈射击，张发奎、李汉魂跳车狼狈逃走，火车被俘获，张发奎的卫队营也全部被缴械。
北伐作战中初露锋芒的林彪，当时就在担任殿后的队伍之内，任七十三团三营七连连长。
这支队伍于8月2日拂晓赶到南昌，当聂荣臻向周恩来汇报时，周恩来高兴地说: "行动很成功! 我原来没想到这样顺利，把二十五师大部分都拉出来了。"
这部分力量的加入，使南昌起义部队力量得到大大加强。
陈毅加入南昌起义队伍，比聂荣臻、林彪费了更大周折。