茅盾当年在上海所参加的“小组”，用他的话来说：“小组在当时有个名称，我忘记了，但不叫共产党，也不叫马克思主义研究会。”这个“小组”是在一九二○年八月成立的。如果说，一九二○年五月在上海成立的“马克思主义研究会”是迈出了建立中国共产党的第一步，那么这个“小组”的成立则是迈出了第二步。这个“小组”是在“马克思主义研究会”的基础上成立的。不过，由于有人退出，有人加入，“小组”的成员跟“马克思主义研究会”的成员不尽相同。
这个“小组”的成员，据中国共产党党史专家们的反复考证，有以下十七人：陈独秀、李汉俊、李达、杨明斋、陈望道、茅盾、俞秀松、沈玄庐、邵力子、施存统、周佛海、沈泽民(茅盾之弟)、李启汉、林伯渠、袁振英、李中(原名李声蟹)、李季。这十七人中，年龄最大的是陈独秀，四十一岁，最小的是沈泽民，二十岁。这个“小组”究竟叫什么名字?施存统在一九五六年回忆说：“一开始就叫‘共产党’。”施存统：《中国共产党成立时期的几个问题》，载《共产主义小组》（下），中共党史资料出版社一九八七年版。李达在一九五四年回忆说：“一九二○年夏季，CCP(不是共产主义小组)在上海发起。”李达：《关于中国共产党建立的几个问题》，引自《“一大”前后——中国共产党第一次代表大会前后资料选编》（二），一页，人民出版社一九八○年版。
邵力子在一九六一年这么说：“研究会成立半年多，逐渐转变成共产主义小组的性质。”邵力子：《党成立前后的一些情况》，引自《“一大”前后——中国共产党第一次代表大会前后资料选编》（二），六二页，人民出版社一九八○年版。
林伯渠在一九五六年则说：“我在上海一共参加共产主义小组座谈会四五次。”林伯渠：《党成立时期的一些情况》，引自《“一大”前后——中国共产党第一次代表大会前后资料选编》（二），三一页，人民出版社一九八○年版。
袁振英在一九六四年回忆：“共产党小组或共产主义小组都是一样的，是内部的名称。”《袁振英的回忆》，引自《“一大”前后——中国共产党第一次代表大会前后资料选编》（二），四七二页，人民出版社一九八○年版。
周佛海在一九四二年称之为“筹备性质的组织”周佛海：《往矣集》，上海平报社一九四二年版。陈望道在一九五六年则说，还是叫“马克思主义研究会”陈望道：《回忆党成立时期的一些情况》，引自《“一大”前后——中国共产党第一次代表大会前后资料选编》（二），二○页，人民出版社一九八○年版。现今可查到的这个“小组”的七位成员，七种说法。查阅当年的报刊，则又有第八种说法，即这个“小组”名叫“社会党”。
一九二○年十月十六日《申报》上，曾披露这么一条消息：
“社会党陈独秀来沪勾结俄党和刘鹤林在租界组织机器工会，并刊发杂志，鼓吹社会主义，已饬军警严禁。”《申报》称陈独秀为“社会党”，倒是有根有据的，因为陈独秀在这个“小组”成立不久，便在《新青年》杂志上公开宣称“吾党”即“社会党”。
那是一九二○年九月一日出版的八卷第一号《新青年》，刊出陈独秀的《对于时局的我见》一文。此文是由于“昨天有两个相信社会主义的青年，问我对于时局的意见”，于是“我以社会主义者的见地，略述如左”。陈独秀的“略述”，令人诧异地提及了“吾党”：“吾党对于法律底〔的〕态度，既不像法律家那样迷信他，也不像无政府党根本排斥他，我们希望法律随着阶级党派的新陈代谢，渐次进步，终久有社会党的立法，劳动者的国家出现的一日。”此处清楚表明，“吾党”即“社会党”。下文，又一处如此行文：“在社会党的立法和劳动者的国家未成立以前，资产阶级内民主派的立法和政治，在社会进化上决不是毫无意义；所以吾党遇着资产阶级内民主派和君主派战争的时候，应该帮助前者攻击后者……”这位五四运动的领袖人物的文章，本来就引人注意。他口口声声说起了“吾党”，警方马上意识到他组织了“社会党”。正因为如此，《申报》的消息用警方的口吻，称之“社会党陈独秀”。也有人称这个“小组”为“中国共产党发起组”。不过，这是后人取的名称，并非当时的名称，没有被采用。现在对于这个“小组”的正式的、统一的称呼，叫“上海共产主义小组”（中国共产党党史研究室二○○二年出版的《中国共产党历史》，把各地成立的小组均称为“早期组织”）。对于这个“小组”，中国共产党党史专家们如此论述：“实质上，共产主义小组就是党的组织。”“共产主义小组是以列宁建立的俄国布尔什维克党为榜样建立起来的。”“共产主义小组的性质是中国无产阶级的先锋队组织，它的工作方向，即奋斗目标是在中国实现共产主义的社会制度。”“参加共产主义小组的人，绝大部分是接受了马克思列宁主义的革命知识分子，他们承认无产阶级的历史使命，并且努力和工人群众相结合，在实际斗争中逐渐锻炼成为无产阶级的先进分子。”《共产主义小组概述》，见《共产主义小组》，中共党史资料出版社一九八七年版。
这个“小组”推选负责人，众望所归，当然公推陈独秀。在维经斯基看来，“中国的共产主义运动必须找有学问的人才能号召”，而陈独秀正符合这个条件。这样，不论是“小组”的成员们，还是苏俄的代表，都一致以为非陈莫属。“小组”的负责人叫什么好呢?叫“小组长”?叫“主任”?维经斯基沿用俄共(布)的习惯，说应当叫“书记”。“书记”一词，在中国倒是古已有之。如《新唐书·高适传》：“河西节度使哥舒翰表为左骁卫兵曹参军，掌书记。”不过，古时的“书记”，是指主管文书的人。后来，中国的“书记”是指抄写员。
当杨明斋把维经斯基的意见译成中文，“小组”的组员们都感到新鲜。就这样，陈独秀担任了“上海共产主义小组”的首任“书记”。从此以后，“书记”一词在中国共产党广泛应用，党的各级组织负责人称之为“总书记”、“党委书记”、“总支书记”、“支部书记”，以至到了后来设立了“书记处”，设立了“书记处书记”。有了“小组”，有了这个“小组”的书记，中国共产党的第一个早期组织，在上海诞生了。就在上海小组诞生的那些日子里，列宁在苏俄首都莫斯科主持召开了共产国际第二次代表大会。列宁关切着世界的东方，关切着中国的革命。正因为这样，列宁在大会上所作的发言，便是《民族和殖民地问题》。派出维经斯基前往中国，虽然是得到了共产国际的同意，但毕竟不是共产国际直接委派的。列宁跟出席共产国际第二次代表大会的中国代表——俄国共产党华员局的刘绍周和安恩学晤面，在考虑着再直接派出共产国际的代表前往中国，帮助建立中国共产党……