李大钊作了三首《欢迎独秀出狱》，诗中写道“你今出狱了，我们很欢喜！……什么监狱什么死，都不能屈服了你。……你今出狱了，我们很欢喜！有许多的好青年，已经实行了你那句言语：‘出了研究室便入监狱，出了监狱便入研究室’。”

这是陈独秀第一次被捕入狱，经由北京各界人士奔走营救，同时北洋政府慑于社会舆论，陈独秀终于被释放。

在李大钊护送下，陈独秀由天津到达上海，并相约组建中国共产党，从此形成了“南陈北李”之说。1920年8月，中国第一个共产主义小组在上海宣告成立。

1921年7月23日，中共第一次代表大会在上海召开，陈独秀此时为广东省教育厅长，缺席大会被选为中共总书记。

毫无疑问，陈独秀是中国共产党的最主要的创始人。从1920年2月移居上海以后，陈独秀就开始了中国共产党的筹建工作。这年8月，他在上海成立共产党的第一个组织——上海“中国共产党”。从此之后，他通过写信联系、派人指导或具体组织等方式，推动各地共产党早期组织的建立。因此，他在上海成立的共产党组织，实际上起到了中国共产党发起组织的作用。由于居功甚伟，陈独秀虽然没有参加“一大”，仍然被选为中央局书记。毛泽东、董必武、蔡和森、周恩来、瞿秋白、吴玉章、李立三、李达、陈望道等在谈到自己参加共产党时，均称无不受到陈独秀的影响和教诲。1936年毛泽东在同斯诺谈到他到上海参加中共一大的经过时说：“在我一生中可能是关键性的这个时期，陈独秀表明自己信仰的那些话给我留下了深刻的印象。”

1921年11月，陈独秀由广州回到上海，开始担任中央的日常工作。陈长璞说，在爷爷签发的第一份通告上首次用陈独秀的英文缩写“T. S. chen”签名。

1922年7月16日，中共第二次代表大会在上海召开。陈独秀被选为中央执行委员会委员长。同年9月，中央的机关刊物《向导》创刊，陈独秀任主编。共产国际代表马林建议国共合作。之后，陈独秀同李大钊等人参加了国民党，即史称“第一次国共合作”。

1923年6月12日，中共第三次代表大会在广州举行。在会上正式承认了国共合作，毛泽东进入中央局。“三大”会议上，根据《中央委员会组织法》，陈独秀被再次选为中央执行委员会委员长，毛泽东为秘书。“三大”之后，在中央签发的许多文件上有委员长陈独秀和秘书毛泽东的签名。