陈大庆心里明白，长江立体防线都被解放军一举冲垮，这小小的苏州河怎在解放军话下。他按照事先与汤恩伯商定的计划，任命重新组建的第51军军长刘昌义为淞沪警备司令部副司令兼北兵团司令。这样汤恩伯、陈大庆就把一副要散架的烂摊子撂给了刘昌义。此时此刻，刘昌义心里也很清楚：汤恩伯、陈大庆留下来的第51军是匆匆拼凑起来的，第21军是四川部队，第123军由苏北民团组成，他们把这些杂牌军当作掩护撤退的挡箭牌和牺牲品，把我当成替死鬼，我刘昌义也没有那么呆！
上海市长陈良也在急于寻找代理人。他曾找颜惠庆、张菊、徐寄三位有名望的老人商量，请他们出山代理市长，可谁都不愿当替死鬼。陈良无奈，只好软硬兼施把工务局长赵祖康抬出来代理市长，并在24日上午召开的警察局长会议上宣布了这一决定。
赵祖康早与中共上海地下党有联系，曾得到地下党的指示，如果有机会应该把上海的政权接过来，迎接解放。
这一天终于到来，赵祖康暗暗自喜，为有机会维持上海秩序，保护上海，把大上海完整地交给人民而感到兴奋，下令警察局要维持好秩序和社会治安，避免同解放军冲突。随后，赵又主动与中共代表李公然联系，商定了八条安全移交上海的具体事项。赵祖康的行动为我军顺利接管上海创造了有利条件。
国民党军政头目纷纷潜逃，部队已处于土崩瓦解之势。24日下午，逃至吴淞口外军舰上的汤恩伯密令其嫡系各军及各特种兵部队准备登船撤逃。为掩护其亲信部队安全撤离，汤恩伯不惜丢弃杂牌军。至25日，溃逃之敌第52、54、12军及第4第99师和各特种兵团残部均已集结在高桥、吴淞一带窄小地区，遭我军密集炮火猛烈轰击。那些等船溃逃，胆战心惊的敌军官兵如热锅上的蚂蚁，乱作一团。刺耳的喇叭声、叫骂声、哭喊声交织在一起，如同为残兵败将送行的哀乐。
就在敌人狼狈溃逃之时，我军钳击吴淞口的东、西线部队加紧对敌攻击，夹紧钢钳，截断敌人的海上逃路。
汤恩伯、陈大庆等一伙军政头目乘坐的军舰早已远离长江口，正逃出黄浦江口的几艘敌舰加足马力向海上驶去，几艘后逃的舰艇遭我远程炮火轰击，冒起股股浓烟。惟一的黄浦江水上通道已被我军完全卡死，上海市区的守军成了瓮中之鳖。
5月25日凌晨，我军占领苏州河以南地区后，欲乘胜过河，全歼市内守敌。但是，各部队从拂晓一直打到中午，仍未能过河，伤亡较重。原来，北岸守敌第37、51军（重新组建）和交警部队，凭借高楼大厦和工厂、仓库等坚固建筑物和大量永固性碉堡，居高临下，织成稠密的火力网，封锁住整个河面和南岸沿河马路。坦克、装甲车日夜巡逻，稍有动静就喷射猛烈的火力，阻止我军前进。特别是第37军，是年初伪国防部搜罗社会上亡命之徒组成的青年军，配有美式装备，战斗力较强。
本来，该军想随汤恩伯至吴淞口登船出逃，因逃路被断，只好半途折返回原地驻防，继续顽抗。
我军指战员被敌人的顽固和凶残激怒了。大家心中暗暗发誓，要为死难的战友报仇。有的部队把榴弹炮营从郊区拉到了外白渡桥南岸，有的调来几十门大炮，将炮口对准百老汇大厦，想用炮火把对岸敌人连同那些高大建筑物一起摧毁。第27军军长聂凤智、政委刘浩天，心里时刻牢记着陈毅同志要把上海完好地交给人民的嘱咐，一方面命令部队不准轻举妄动，一方面深入部队了解战况，做思想工作，研究解决办法。
聂军长、刘政委来到西藏中路一个团的阵地上，看到干部、战士们浑身是土，满脸是汗，一双双布满血丝的眼睛充满着激愤和期待。多么可爱的指战员呀！
军长、政委含着热泪向他们表示慰问，倾听他们的意见。有个负伤的爆破组长激动地拉着聂军长的手说：军长，下命令吧！三包炸药，管保把对面那座楼炸飞！
有的主张用炮火去收拾对岸敌人，群情激昂。有的刚从第一线赶来的指挥员，情绪高昂，发言中充满了火药味。他们提出一个极其尖锐的问题：是爱无产阶级的战士，还是爱官僚资产阶级的楼房？是我们干部、战士的鲜血和生命重要，还是官僚资产阶级的楼房重要？
不能再等了。聂军长，刘政委马上召开军党委紧急会议，统一思想，研究部署下一步作战行动。
面对大家严肃、期望的目光，聂军长、刘政委心情也很激动。是呀！上海战役打响以来我们的指战员一直按照上级指示，宁可把敌人引到郊外去打激烈的争夺战，也不在市区内打攻坚战，宁可自己多伤亡也没有在市内使用大炮等重武器。可是顽固的敌人似乎摸到了我们的心理，龟缩在坚固的建筑物和大量的坦克、装甲车内疯狂顽抗。我们的指战员一批批血洒疆场，他们在即将看到上海解放时却带着仇恨和遗憾与战友、亲人永别了！真令人痛心呀！不能怪下级指挥员有此情绪，要怪只能怪我们高级指挥员没能及时根据战况做好思想工作，提出解决问题的办法。经过紧急磋商‘统一认识，聂军长代表军党委向大家解答说：战士和楼房‘我们都爱！我跟大家一样，爱惜战士的生命；大家也跟我一样，爱惜人民的财产。现在那些楼房还被敌人占领着，再过几个小时，我们从敌人手里夺过来，它就不属于资产阶级，而是属于人民。我们没有任何权利毁坏它，必须尽最大努力去保全它。
与会同志的情绪渐渐冷静下来了，思想也逐步统一了。既然不能用重武器，那该怎么办？军领导又引导大家就此进行了反复讨论，出主意、想办法。最后决定改变进攻战术，在苏州河正面佯攻，以部分主力天黑后从侧面涉过河去，沿苏州河北岸从西向东攻击抄敌人后路。同时，与上海地下党取得联系，发动政治攻势，分化瓦解敌军，争取他们弃暗投明，放下武器。这样双管齐下，以确保上海完好地交给人民。
瓦解敌军，从哪里突破呢？聂军长沉思着。他眼睛忽然一亮，嘴里不断说着刘昌义、刘昌义这个名字。是啊，刘昌义早年就与蒋介石有矛盾，曾参加过倒蒋活动，故受到蒋的排斥。现在，蒋介石、汤恩伯又拿他当炮灰。他内心深处一定怨恨蒋，肯定在寻找出路，如能做好工作，动员他弃暗投明，就可将敌防线中段撕开个口子，打乱敌人防御部署，加速全歼守敌的进程。正当聂军长思考如何开始政治攻势之时，接到第81师政委罗维道的电话：报告军长，我们已经通过地下党对敌第31师进行策反，找到了第51军军长刘昌义，阐明了党的政策，晓以利害，刘昌义表示愿意谈判。聂军长非常高兴，就直接与刘昌义通了电话，决定下午在第27军军部谈判。
25日傍晚7时，刘昌义一行按约定时间来到第27军指挥所。聂军长以礼相待，动之以情，晓之以理。刘昌义深明大义，表示率第51军撤出阵地，到指定的江湾、大场一带集结，待命而行。谈判期间，聂军长借故离开会场，将情况向兵团和三野首长作了汇报。
粟裕得知刘昌义率兵投诚，苏州河即刻就能突破，高兴得连连自语：好事好事，大好事呀！正说着，接到报告，陈毅、饶漱石等负责接管上海事宜的领导已到苏州车站。粟裕、张震马上赶去迎接，并当面汇报了聂凤智与刘昌义谈判的进展情况。
陈毅听后，兴奋地说：太好了，这样可以少费很多事呵！随即向粟裕、张震扼要地交代了有关接管人员开进情况和进一步强调宽俘政策，即把手一挥对随行人员说走，今晚不在苏州住了，大家辛苦一点继续东进，到南翔宿营。
26日凌晨1时，位于虹桥镇的第27军前沿指挥所里，聂军长与刘昌义的谈判仍在继续进行，聂军长拿出陈毅的指令向刘昌义宣读：一、接受刘昌义投诚；二、限刘部于26日上午4时前集中在江湾附近指定的三个村庄待命：三、所撤地区由人民解放军接防；四、凡拒不接受命令者，由人民解放军解决。
陈毅司令员的语气严肃、果断，使刘昌义毫无迟疑的余地。刘要过电报仔细地看着，又掏出怀表一看，指着电文中第二条说：现在已过了午夜，即使马上回去下命令，恐怕也来不及。聂军长爽快地说：这是个实际问题，那么，限期推迟到26日中午12时如何？刘昌义点头称：可以。至此，谈判结束。
刘昌义急忙返回驻地，率领第51军4万余官兵撤出阵地，向我军指定的江湾、大场一带集结待命。这样，苏州河中段防线决堤敌人赖以支撑的苏州河北部市区的防御体系随之土崩瓦解。但是，战斗并没有停止。敌第37军仍坚守阵地，垂死挣扎。
聂军长命令各师加强攻势，积极开展分化瓦解工作，迅速向苏州河北岸突进。
第79师在外白渡河一带向北岸进攻，遭敌猛烈火力阻击。第235团3营7连指导员迟浩田带领战士王其鹏和张瑞林悄悄地爬进一个地下水道，顺着臭水沟趟进苏州河，又潜泳游到河对岸，趁夜暗闯入一大楼内的敌204师师部，以智慧和勇敢俘敌上校副师长，迫敌师部及三个营1000余人缴械投降，为全师北渡扫清了障碍。
驻守在四川路桥北邮政总局大楼内的敌第37军一部凭借坚固高楼继续顽抗。
第27军领导通过代市长赵祖康去邮政总局劝说局长王裕光与守军谈判。26日傍晚，该楼守军挂白旗投降。盘踞在外滩百老汇大楼上的第37军两个营被我第79师第235团包围后拒绝投降。
我军用高音喇叭喊话：再不投降，将切断大厦的水电。
绝望的敌人只好从窗口挂出白旗。驻守在中纺十二厂的第37军4，000余人在我军威慑下和通过地下党的工作，也于27日上午投降。
至此，苏州河以北市区大部被我军占领，惟有杨树浦发电厂和自来水厂还被敌第21军残部盘踞着。聂军长十分着急。如用武力解决，水电设施定遭破坏，将严重影响着全市生产生活，这万万不可；如不使用武力，等敌人投降要到何时？
聂军长正在寻思良策之时，陈毅司令员到了军指挥所。陈毅司令员听着聂军长的汇报，浓眉紧锁，急问：他们属于哪一部分？是国民党21军230师。陈毅听到这个番号，觉得很耳熟，想起该师副师长许照毕业于国民党陆军大学，是上海知名人士蒋子英的得意门生。想到这里，陈毅喜上眉梢，转身对聂凤智说：对了！蒋子英一直在上海，你赶快请他做工作。
聂军长如释重负，通过电话局很快找到了蒋子英。蒋老先生愉快地答应尽力而为。27日下午3时，聂军长就接到报告，说自来水厂、发电厂守军8000余人已挂出白旗，缴械投降。聂军长兴奋得连声称：好！好！好！
5月27日，是一个不平凡的日子。三野指战员没有辜负中央军委和上海人民的期望，在上海地下党和广大人民群众的大力协助下，经过16昼夜的艰苦奋战，共歼灭国民党军15，3万人，缴获各种火炮1，370门、坦克装甲车119辆、舰艇11艘及大量物资，大上海完完整整地回到了人民的手中。
人民解放军雄赳赳、气昂昂地行进在上海市宽阔的大马路上。
上海市内，热烈隆重的锣鼓声、爆竹声到处蔓延，秧歌队、腰鼓队满街满巷，嘹亮而欢快的歌声此起彼伏；从马路两边，从层层高楼的窗口，一朵朵鲜花，一把把彩纸抛向这威武之师、文明之师……
上海解放后，在陈毅为主任的上海军事管制委员会领导下，顺利地实现了对军事、政治、经济、文化、财贸、交通等部门和行业的军事接管。但是，警备任务相当繁重，它关系到保证军事接管、维护社会治安、稳定社会秩序、保护民众安危的大问题。为了作好这项工作，令第9兵团领导机关兼淞沪警备区领导机关将市区和郊区划分为5个警备分区。各部队严守城市纪律，依靠当地人民群众，在人民保安队、人民宣传队等群众组织的积极协助下，清除危障，肃清匪特，整顿社会秩序，保护国家财产和政府机构、人民群众的安全，巩固了新生的人民政权。
第23军完成上海市区的战斗任务后，即于6月1日返回杭州，归建制于7兵团，担负解放不久的杭州市的警备任务。
淞沪地区被我军攻占后，盘踞崇明岛的敌暂编第1军5个团、第123军残部和县大队近万人，惶惶不可终日。他们企图封锁长江口，纠集船只，准备逃跑。第25军军长成钧、政委黄火星奉命率部协同兄弟部队占领吴淞地区后，发扬连续作战的光荣传统，继续攻歼崇明岛残敌。该军分梯队渡江，采取穿插、堵击、围攻等战法，迅速占领万安港、江口镇、县城、堡镇等地。
战至6月2日上午，共歼敌3790余人，胜利地完成了解放崇明岛的作战任务。第28、29、31军在上海战役中圆满完成任务后，迅速撤出大上海，分别到常熟、苏州、嘉兴地区休整，准备进军福建。
在此期间，第三野战军第7兵团在浙东、浙南游击队的配合下，解放了宁波、奉化、镇海、温州、临海、黄岩等城市和广大地区。第二野战军一部解放江西省南城和福建省建阳、建瓯、南平等地；另一部为策应第四野战军先遣兵团的渡江作战，进至江西省丰城、樟树一线，并于22日占领南昌。第四野战军先遣兵团于5月14日开始举行汉浔间渡江作战，从武汉至九江间横渡长江。15日，争取了国民党华中军政副长官兼第19兵团司令官张轸率2万余人在贺胜桥起义，17日解放华中经济中心武汉。6月2日，第三野战军一部解放崇明岛，至此，渡江战役结束。
渡江战役历时42天，人民解放军摧枯拉朽，一举歼灭国民党军11个军部、46个师共43万余人，我亦伤亡6万余人；解放了苏南、皖南、浙江广大地区和江西、福建、湖北部分地区。其战役规模不亚于辽沈、淮海、平津三大战役，是解放军在战略追击阶段所举行的以突破国民党长江防线、粉碎划江而治阴谋的一次大规模进攻作战。
此后，渡江作战部队遵照毛泽东5月23日发出的《向全国进军的部署》：一野解放整个西北；三野经营东南沿海；二野、四野向华南、西南大进军；人民解放军势如破竹，消灭国民党军残敌所向披靡，凯歌高唱迎来新中国的诞生！