汤恩伯当即同意他兼任51军军长。
5月22日，刘昌义走马上任，收编了总共还不足两个团的刘军残部，布防在苏州河北岸造币厂桥以西一线。
当日晚，汤恩伯把苏州河南的75军、54军、浦东的37军全部撤至苏州河北。同时，由51军、21军、123军组成北兵团，由刘昌义兼任北兵团司令，并兼任京沪杭警备副总司令。正是这样一再加官封爵，反倒使刘昌义清醒过来。
看样子，汤将军要跑了。自己不过是升为汤恩伯逃跑的"替死司令"罢了。他一时间感到内心冰凉。
正当聂凤智军在河南岸受阻，焦急万分的时候，刘昌义也已拿定了主意，决定不再给汤恩伯当替死鬼了，起义反抗。
由地下党在中间牵线，刘昌义和27军81师取得联系。
刘昌义在和81师政委罗维道的谈判中，最热切的要求就是，保留部队建制、番号。他能谋到这样一个官、拥有这么多兵已是很不容易了，所以，他要求保留。他说："我的兵虽不多，但还有几个团。"
罗维道笑了笑，说："刘将军，恕我直言，你们如果还要继续抵抗的话，我军在一小时内就可以把你们消灭掉。"
败兵之将无以言勇，刘昌义此时只得连连点头，说："那是！那是！"
在签订起义协议书上，刘昌义自己又写上"起义以后保留部队建制、番号"一句，但被罗维道毫不客气的划掉了。尔后，双方在协议书上签了字。
后来，刘昌义被带到27军军部指挥所，受到聂凤智的热情接待。聂军长把此事向粟裕作了汇报，粟裕当即口授了命令，限刘部于26日中午在江湾附近待命；所撤地区由解放军接防；凡拒不接受命令者，由人民解放军解决之。
5月26日，27军打过苏州河，边打边用广播喊话，刘部21军、123军大部在阵地前放下武器。
但是，国民党军37军及交警总队还在造币厂桥以东至外白渡桥一带继续阻击，负隅顽抗。解放军27军会同23军、20军一部，从正面及侧翼予以猛击，至26日中午解决战斗。
同时，解放军26军攻占大场、江湾；
第25军、29军攻占吴淞、宝山；
第28军、33军攻占杨行等地。
5月27日凌晨以后，上海市以及吴淞口方向的枪声渐停。这时一直停泊在吴淞口处，以极大的兴趣看热闹的英、美军舰，也拖着长长的黑烟，消失在茫茫的大海。
蒋介石严令坚守"六个月"，英美将会援助的预言、希望，像一个气球，被解放军用手一捅，就破灭了。
5月27日早晨，上海解放，聂凤智将军却在他的军指挥部睡着了。
前委和三野指挥部的首长分别从丹阳和苏州赶到上海市。
陈毅走进门望着正在熟睡的聂凤智，他回头对身边的人说："他太累了啊！几天几夜没有合眼，不要惊动他。"
聂凤智军长靠在椅背上，打着轻微的鼾，他突然惊醒了，发现陈老总正饶有兴趣地欣赏着自己的睡相呢。
他从椅子上跳起来，立正报告："27军军长聂凤智报告......"
陈毅笑着摆摆手，用浓重的四川口音说："算喽，算喽。"
陈毅听取了27军首长的汇报。当说到杨树浦发电厂还未及攻克时，陈司令员的眉头渐渐锁紧了。他问："他们属于哪一部分？"
聂凤智报了守军的部队番号。
陈毅略一思索，脱口而出："他们的副师长叫......许照。对！你们赶快查找蒋子英的下落。他一直住在上海，过去在国民党陆军大学任过教授，许照是他很得意的学生。"
在陈老总指示下，聂凤智派人去做工作，最后的难题迎刃而解。27军通过蒋子英的关系，顺利地说服了发电厂守敌放弃固守的阵地，全部缴械投诚。
喜讯不断传来，天渐渐黑了。27军留陈老总吃饭，他痛快地答应了："噢，你们拿什么饭菜招待我？我可真是饿了。"
聂凤智笑了。"好菜"端上桌，是一盘辣椒炒鳝丝。陈老总吃得满头满脸冒热汗，连连大声说："好吃，好吃！"
不一会儿，盘底朝天了。陈毅指指空盘子，说："就要这个，再来一盘！"
这下子可急坏了聂凤智。他知道，这几条黄鳝，还是他们炊事班的同志从郊外田埂边顺手捉来的。
正在他左右为难之时，炊事员却又飞快地端上了一盘。没想到炊事员还留了一条。陈老总高兴得直嚷嚷："好啊！菜不够，辣椒凑。就这个好！"
正在吃饭的陈老总突然抬头问聂凤智："你现在最想干什么？"
聂凤智笑着说："我想坐车在城里转一圈，然后睡上两天。"
陈毅说："这个想法很好嘛，但办不到。"
"为什么？"
"城市刚打下，你还要负责保护。"
"是，一定照办。"
陈毅吃得心满意足回去了。第二天，陈老总一个电话，又把聂凤智叫了过来。
聂凤智一进门就问："陈老总，有什么任务？"
陈毅说："去向宋庆龄赔礼，她告状来了。"
陈毅让他去给宋庆龄赔礼道歉。
把聂凤智吓一跳：怎么得罪了宋庆龄？
原来，进入市区之后，27军还负责寻找并保护住在上海的民主党派领导人及知名爱国人士。但由于指战员刚从战场下来，还缺乏这方面的经验，思想教育又没跟上，因此也出现了一些误会。
"国母"宋庆龄，就是他们重点保护的名人之一。
当时，她住在淮海中路西端的一处西式小洋楼里。在住宅的四周，岗哨密布，昼夜巡逻，荷枪实弹，如临大敌，这引起了宋庆龄的不快。
加上在布置任务时，上级指示要严格审查进入住宅的人员，防止坏人混进去。层层下达，三传两传，变成了不通情理的一句话："只准出，不准进。"
一天，宋庆龄外出有事，乘车回家时，被战士们挡在门口。
宋庆龄的随员下车作了解释。战士们说："我们不认识她，先不能进去，我们要请示上级。"
宋庆龄很生气，叫司机掉转车头，直接开到三野司令部，当面找陈毅司令员告了一状。
宋庆龄一走，陈毅就把聂凤智叫了过去。交待说："你要去登门赔礼，以后要教育战士注意方法。"
解放军攻克上海却仍遵守纪律睡大街两旁，这种情景，许多上了年纪的上海老人想起来至今仍然感动不已：
枪声平息的街道上是宁静的。路面上因为长时间的绵绵春雨显得泥泞而潮湿。
浑身脏污不堪，甚至沾着血迹的战士们就这样席地而卧，睡在屋檐下、人行道上。身上盖着麻袋片，身下垫着的也是麻袋片。
饿了，就啃随身带的干粮；渴了，喝一口随身带的凉水。
有的贫民出于真诚的敬意，给他们递一碗热饭抑或一碗热水，都被他们谢绝。
当时有的富人出于试探，送来好吃的，好喝的，也被解放军战士拒绝了。
这正是解放军与国民党军的不同之处。
他们是人民的军队。尽管他们很累，很渴，脚上在急行军中打满了血泡，在汗水和雨水的浸泡中浑身散发出难闻的气味，甚至还挂着彩，却依然睡在大街上。
尽管上海很好玩，很好看，他们很想玩，很想看。他们大都来自山沟，没见过大城市。但是，不能。
他们解放了上海，并把它完整地交给了上海人民。
这一天是5月27日。
