20世纪20年代，上海是中国最大的经济和工业中心，也是中国工人阶级运动的重要战场。1926年7月，国民革命军开始北伐。为响应北伐，中共中央于1926年7月31日发出《中央通告第一号》，要求各地党组织“各自在当地立刻起来做地方政治的直接奋斗，由反对苛税杂捐力争民权自由，一直到推翻当地的军阀政权，建立地方的人民政府”。中共上海区委开始筹备武装起义的工作。9月后，中共与上海总工会立即秘密组建了一支2 000余人的工人纠察队。中共上海区委组织部部长赵世炎办起了第一期军事训练班，学习十月革命的经验和城市武装暴动的战略战术，从党团员和工人积极分子中选拔队伍，很快建成了工人自己的武装，并成为武装起义的主要力量。当时上海还有两支可以联合的武装力量，一支是国民政府派到上海的钮永建所组织的由流氓无产者组成的队伍，另一支是江浙财阀代表人物虞洽卿所控制的保卫团。中共上海区委从统一战线考虑，非常重视和争取他们参加武装起义。上海区委还在北洋军阀驻沪海军中开展秘密工作，建立党的组织，策动部分军舰配合武装起义。

10月23日晚，闸北与南市的200多名起义人员分路冒险进攻警察局，同时钮也出动帮会武装百余人。但由于准备仓促和经验不足，行动很快失败。24日凌晨，在各处待命的工人纠察队，大部分没有听见黄浦江上军舰的信号炮声，以为起义的计划改变而逐渐解散。仅有的少数进攻人员被反动军警镇压，南市和浦东两区的起义领导机关遭到破坏，100多人被捕。第一次武装起义失败。

此后，中共上海区委举行多次会议，总结经验教训。1927年2月15日，中共中央决定在北伐军到达松江时，即可组织上海第二次工人武装起义。16日，中共上海区委举行全体会议，决定再一次进行武装暴动。在上海反动军阀统治濒临垮台的形势下，上海总工会于2月18日召开全市各工会代表会议，决定在次日举行同盟总罢工，以响应北伐军进攻上海。22日下午4时，中共上海区委排除钮永建等的干扰，发出《特别紧急通告》，宣布：“今晚6时，全上海动员暴动。”当晚，停靠在黄浦江上的“建威”“建康”号炮轰高昌庙兵工厂，第二次武装起义开始。杨浦、闸北、南市等地起义工人同反动军警展开激烈搏斗，一直持续到23日晚上。但由于北伐军并未及时挺进上海，致使工人的武装暴动处于孤立无援的境地，多面受敌。面对反动军阀的镇压，中共中央和上海区委于23日晚召开联席会议，为避免造成更大的损失和牺牲，会议决定立即停止总罢工和暴动。第二次武装起义也失败了。

为了准备第三次武装起义，中共中央特委制定了周密详尽的作战计划，并对各个区的工人纠察队实行统一编制和组织，整合成一支有统一领导、组织严密、纪律严明的新型革命武装。1927年3月18日，北伐军东路军抵达松江，第三次武装起义的时机成熟了。3月21日上午，党的起义领导机关做出了发动起义的最后决定，中午12时，全市约80万工人举行总罢工，四郊几处大工厂的汽笛同时长鸣，这是工人纠察队开始行动的信号，上海工人第三次武装起义开始了。

起义行动在闸北、南市、沪东、沪西、浦东、吴淞和虹口7个地区同时进行，由工人纠察队5 000多人参加。起义部队按照预定的目标，向各区的警署、兵营和军事机关发起进攻，广大群众积极支援。起义发展十分迅速，虹口、南市、浦东、沪东、沪西和吴淞都在21日解决战斗，完成任务的工人武装马上支援闸北的战斗。

闸北是奉鲁联军集中的地区，敌军力量也最为强大。周恩来亲临前线指挥突击，在得知北伐军白崇禧部按兵不动的消息后，他鼓舞起义人员：“我们绝不依靠北伐军拿下北站，我们有信心和决心，凭自己的力量最后消灭军阀残余部队。”22日下午，军阀部队的指挥官毕庶澄看到大势已去，换上便衣逃往租界，失去指挥的敌军土崩瓦解。起义部队发动总攻，到下午6时，攻占了敌人的最后一个据点—北站，上海工人第三次武装起义终于取得胜利。

22日上午9时，4 000余代表在新舞台召开第二次市民代表会议，成立了上海特别市临时政府。3月23日上午，市政府开始办公。市政府委员会在之后的第七次会议上通过了市政府政纲，充分体现政权的民主主义性质，反映了广大群众反帝反封建的民主革命要求。上海工人三次武装起义，推翻了封建军阀的统治，建立了民众直接选举的上海市民政府，虽然这个政府仅生存了24天，但它是代表人民利益的革命政府，是中国共产党领导的新民主主义政权的雏形。