纠察队是起义的先锋军和敢死队，要有武器。但是，上海工人纠察队的手头武装很少。虽然周恩来是这项工作的主要负责人，但是他来上海不久，人生地不熟，只能由顾顺章负责。顾顺章果然神通广大。他从周恩来筹集到的13000多元到兵工厂接洽购买。他还通过社会关系与有些眼看大势已去企图离职的军警联系，购买他们手头的武器。

到了第三次起义前夕，中共一共筹得的枪支林林总总才有250支枪。当然，这不全是顾顺章的功劳，如中共沪西部委组织委员后在中共中央秘书处工作的糜文浩等人也参与筹集。

1927年3月11日，中共中央特委会召开会议，根据周恩来关于“整个组织，上总要组纠察队委员会，以五人为委员，主任参加主席团”的建议，决定建立上海总工会工人纠察队委员会，由顾顺章、侯镜如、徐梅坤、袁大实，还有三个工人，共7人组成。顾顺章任书记，侯镜如（黄埔一期学生）负责指挥，徐梅坤负责联络。

1927年3月21日中午，上海工人第三次武装起义开始。

当时的作战划分于下列7个区域：

南市、虹口、浦东♀淞、沪东、沪西与闸北。

7个区域中的行动，前后开始于一小时之内。唯解决与成功之迟速不同；尤以闸北一区自21日正午起，至翌日午后6时止，前后两日一夜始解决，统计激战至30小时，其经过如下：

“在闸北境内，除警岗不计外，敌人盘据的势力，多至20余处。行动以后，群众的主要目标在下列六处：（一）北火车站，（二）湖州会馆，（三）商务印书馆俱乐部，（四）五区总署，（五）广东街分署，（六）中华新路警署分所。嗣后自吴淞开回兵车，在天通庵车站虽被沪东群众邀击，但因敌方人数甚多，武装极强，于是六个主要目标之外，又增加一处劲敌。闸北的巷战，遂遍于全境。自12时起，罢工工人群众到街市中者，逾十余万。枪声突然四起。北站鲁军的大炮，对向市镇轰击。鲁军中白俄兵，且以铁甲车开炮射击；在炮声密集中，北浙江路口，英国帝国主义的铁甲汽车，亦乘机开炮射击，助鲁军对民众作战。（以上两事，为纠察队指挥者所亲见，但事后帝国主义者默不敢承认，上海各报纸，亦不敢以此项消息登载。）至下午4时，群众已夺得各警署与湖州会馆。全境内各处警岗，悉被驱散。居民纷纷悬青天白日旗，不及备者，或以手巾被单作白旗悬挂。自此以后，群众的武装，除布防保护居民，免溃兵抢劫外，进攻目标，乃集中于（一）北火车站，（二）商务印书馆俱乐部，（三）天通庵火车站。三处在一直线上。工人纠察队夹于三处之间：对北站取防守势，对俱乐部取包围势，对天通庵车站取进攻势。

巷战逐渐激烈了。商务印书馆俱乐部的敌人虽系少数，但拥有机关枪与多量炸弹，不断的向群众轰击，十分顽强。21日午后4时，纠察队以纸作书，口呼停战，投书入，劝降并负责保护其生命。鲁军亦就纸之背面回书，请求停止攻击，但不肯降。嗣后纠察队即取包围战略，防守终宵。天通庵车站敌人，因铁路轨断车倒而惊惶不已，伏两旁沟中，防守终宵，以军械力弱，纠察队进攻未得手。北站方面，敌人于晚间纵火围攻，火势渐炽，烧民房数百间。难民纷纷向工人纠察队防线中逃来，纠察队分队护送往青云路空地。火势盛时，纠察队乃弃防线前进，以水龙皮管，开自来水管猛勇扑救，卒至扑灭火势。附近居民，义愤填膺，对工人纠察队感激至于流涕。居民壮丁，以义愤所激，自愿加入作战。老者少者，自屋中取出木板砖石布袋，为工人纠察队布置防线，建筑障碍物。火势熄后，敌人不敢进攻。唯时以排枪射击；白俄人的铁甲车，则时以大炮轰击；英国帝国主义的铁甲汽车，亦时时偷袭向我们射击。此时的工人纠察队，为保护居民，对军阀之残余作战，亦对帝国主义者防御作战。