支部是党的基层组织。支部建在连队是毛泽东的一大创造。
1927 年秋收起义失利后，毛泽东带了一支部队向井冈山前进。可是他怎么也稳定不了部队，开小差逃跑的越来越多，有的人公开地问：“你走不走？”“你准备到哪儿去？”还出现整个排利用放哨的机会带了枪集体逃走的现象。这种现象发展下去将意味着什么，毛泽东很清楚。他成大出没在连队战士中，了解情况，思量对策。他设想，如果有一个坚强的组织作为领导核心，并通过这个组织去密切联系战士群众，那么部队肯定会巩固下来，并且会得到发展壮大。于是他采取果断措施，在工农出身的战士中大力发展新党员，同时在连队中建立党的基层组织党支部。
支部一建立，连队立刻有了灵魂。各支部按照毛泽东的指示，布置党员们做好三件事：一是学习当前形势，明确理想和目标；二是了解战士群众的思想动态，及时做工作，解除他们的顾虑，坚定革命的信心；三是积极培养和发展新党员。
支部下面有党小组。党小组差不多每天都要研究一下当天的情况。发现不良苗头就及时做工作，或向上一级党组织反映。对意志坚定、工作积极、遵守纪律的好同志，及时帮助鼓励，介绍他们入党。
支部建在连上，最大的优点是密切了党和群众的关系。每个普通战士都可以直接同党见面。党生活在群众中，群众也生活党中，一言一行，一个思想动向，都逃不出党的眼睛。支部通过培养积极分子和吸收新党员的形式，把每一个希望上进的战士都团结在党的周围。已经入了党的就更不用说。他一旦成了党员，不仅自己要服从党的纪律，而且有责任向党外同志做工作。
连队以上设党委或分党委，连以下设党小组。党委提出工作任务并向全体指战员公布。各支部负责落实并定期检查。团结、培养入党积极分子是每个支部和党小组的经常性工作。小组向党员分配工作，党员向小组长汇报，小组长向支部书记汇报。这样每个大队就像一台巨大的机器，党的支部带动着党的小组，党的小组带动着党员，党员带动着群众。掌握这台机器动转的各连党支部就是联系群众的核心，又是对外作战的战斗堡垒。
连是军队的基层。支部建在连队，广义地说就是把党的组织系统一竿子插到底，一直建到基层单位。与连队相对应的基层单位，在农村过去是生产大队，现在是行政村，在城市是街道委员会或街道办事处，在工厂是车间，在学校是年级或教研室。党的基层组织与行政的基层单位、社会的基层结构一一对应。工农商学兵、东西南北中，都在党的领导之中。
国民党的历史比共产党悠久，势力比共产党大，又是执政当权的党，为什么反而败在共产党手里呢？其中一个重要原因就是国民党基层空虚。国民党的基层组织到县、区级为止，再下面就是空的。共产党的基层却一直下到社会结构的最底层，下到连队、生产大队、村子、车间、街道、科室，总之是无所不在，滴水不漏。共产党基层的充实发达正好钻了国民党基层空虚的空子。这对于共产党自下而上的革命活动来说是极其有利的优势，因为它有利于行动，其政权的稳固性又因为基层的发达而远远超过国民党。