当时粟裕虽未将这一作战腹案上报下达，但在作战部署上却是有准备的，即力求能适用于打整编第5军和打开封两个作战方案，而且侧重于后一个方案。
5月24日，我军第3和第8纵队按野战军作战计划向淮阳方向前进，敌邱兵团果然被我军吸引南下。30日、31日，黄河以北我军各纵队南渡黄河。我军的这一突然行动使敌人大为震惊。敌急令邱兵团主力和整编第75师北返迎击我渡河部队。同时，又向鲁西南增调整编第83师、第25师、第72师和第63师1个旅，企图与我军渡河部队决战。这样，敌集中在鲁西南战场的兵力将达到9至11个整编师，且队形密集，不易分割，我军难以达到各个歼灭的目的。这时，我军第3和第8纵队已到达通许、睢县、杞县之间．距开封只有一日行程，如就势转用于突然攻取开封，可打敌措手不及。战场情况的变化表明，打整编第5军的条件尚未具备，而实现先攻开封、后歼援敌的条件却已成熟。于是，粟裕当机立断，改变在鲁西南作战的计划，并于6日15日定下了转向豫东作战的决心。即首先以主力一部从敌侧后开刀，夺取敌守备兵力比较薄弱而又处于敌人防御要害部位的开封，待围歼开封守敌后，再集中兵力于运动中寻歼来援之敌的一路。
由于粟裕对这一作战方案先有准备，所以在定下决心的当天就上报了中央军委并报中原军区和中原野战军，同时给部队下达了作战命令，明确了战役第一阶段各部队的任务。以第3和第8纵队组成攻城集团，由陈土榘、唐亮指挥，先采取奔袭手段夺占城关，尔后依托城关迅速攻城。为确保攻城作战的胜利，另用近三倍于攻城部队的兵力，由野战军直接指挥，担任阻援和牵制敌人的任务，其中以中野第9纵队插入郑州、开封之间，阻击郑州可能来援之敌；以中野第11纵队并指挥冀鲁豫军区独立第1旅位于巨野地区，由北向南从侧后牵制邱兵团；以第1、第4和第6纵队迅速楔入定陶、曹县、民权、考城地区，采用运动防御，坚决阻击邱兵团西援开封；以冀鲁豫军区和豫皖苏军区一部兵力相机攻占东明、兰封（今兰考县），并破袭陇海路兰封至野鸡岗段铁路。17日晨，中央军委、毛泽东复电完全同意上述部署，并指出：“这是目前情况下的正确方针。”同日，刘伯承、邓小平、陈毅也来电指出：豫东战役第一步应明确以攻开封为主，第二步打哪儿视情而定。
为了在战略上配合这次作战，粟裕令华野第2兵团继续在津浦路徐、济段扩大攻势，包围兖州，调动敌整编第25师或整编第83师北援；令华野第4兵团在陇海路新安镇（今新沂县）至海州段发动攻势，以牵制敌人。
我军攻打开封这一着棋，完全出敌意料之外。当我军的兵力部署已经就绪，战役即将发起时，敌人还蒙在鼓里。国民党南京政府国防部和徐州“剿总”，虽曾觉察到我军第3和第8纵队有围攻开封的征候，但见我军两大集团南北对进，即认定我军企图夹击邱兵团，因而十万火急地向鲁西南调集兵力，要与我军进行决战。尤其可笑的是敌华中“剿总”，还坚持认为我军第3和第8纵队尚在方城以东地区。
然而，我军却在敌人重兵集团紧紧跟踪和严密监视的情况下，创造了歼敌的条件，捕捉到有利的战机，乘敌把注意力集中在鲁西南之际，突然对开封守敌发动了攻击。
八、陈士榘：我们一定要拿这个第一
再说陈士榘、唐亮率领由第3、第8纵队组成的西线兵团，于6月15日行军经过黄泛区，进到了圉镇地区，中午休息时间，接到中央军委和粟裕要其立即攻打开封的命令。陈士榘、唐亮立即下令部队停止前进，召集各纵司令员和政委研究作战部署和打法，并草拟安民布告，宣布城市政策、入城纪律和注意事项。
部署完毕，陈士榘满怀战斗豪情，对大家说：“打开封，是关内我军攻击的第一个省会城市，我们一定要拿这个第一！”
要攻打开封，部队就需要转头向西北方向前进，各方面的准备工作都在紧张进行。陈、唐将作战计划和部署情况分别报告了党中央、中央军委和华野指挥部，并将安民布告和有关城市政策的主要内容报请中央审批。党中央对开封战役非常重视，毛泽东亲自起草了安民布告和对开封守敌的喊话材料。
开封，往南是陇海铁路，靠北是滚滚黄河，西面毗邻郑州，东边是一望无际的大平原，是我国的六大古都之一。城内保存着很多名胜古迹。这座城市既是南北争夺的中原重镇，又具有中原政治经济中心的重要地位。
开封城内守敌为66师师部率13旅全部和河南省保安第1、2旅及炮兵部队、后勤机关等约4万人，由第4绥靖区副司令刘汝明指挥。其兵力部署是，13旅及355团（属68师119旅）防守城东面的曹门和城东南面的宋门，以及龙亭核心阵地；保1、2旅守城南、城西两面；重炮皆在龙亭附近，高射炮在西南角。
根据中央军委和华野指挥部批准的开封战役作战部署，陈、唐以暂归兵团指挥的中野第9纵队进至中牟、张庄街地区，并指挥豫皖苏5分区71团破袭陇海路汴郑段，阻击可能由郑州东援之敌。8纵从赤仓、陈留地区，以2天行程，于16日晚完成对开封以西、以南的包围，3纵从杞县、高阳地区，以2天行程，于16日晚完成对开封以东、以北的包围，兵团指挥部于6月15日晚自圉镇出发，以2天行程进至开封附近。此外，中野1、3纵和华野10纵在上蔡、西平地区阻击敌18军。华野北线兵团主力1、4、6、11纵队和两广、特种纵队直插曹县、民权、兰封地区，正面阻击敌5军、75师、83师。豫皖苏独立旅附1分区地方武装。负责破袭内黄、民权至商丘段陇海路，并相机袭击兰封。
攻打这样的大城市，对于由陈、唐率领的我军西线兵团来说，还是第一次，这是一次非常艰巨的城市攻坚战。陈、唐认为，要取得战役的胜利，必须实行四面围攻，多头突击，迫敌守备力量分散，顾此火彼，以造成我突破的有利条件，继而在纵深发展中及时组织对敌核心工事的围攻，尽快解决战斗，彻底消灭敌人。基于这个思想，陈、唐首长部署3纵队担任城东、城北两面包围，并由宋门、曹门和北门攻城；8纵队担任城南、城西两面包围，并由南门、西门攻城。3纵根据上级的要求又具体部署为：8师从城东北面及城北面实行包围，并由此攻城；9师攻占城东南面的宋门关，并由此攻城。
部队受领任务后，各级指挥员立即察看地图，访问群众，联系向导，很快熟悉了地形，摸清了敌情：根据任务和敌情，各部队又将担负的任务作了具体分工，任务下达后，各团抓紧进行战前动员、战斗编队、组织火力、寻找登城梯子、检查爆破器材，并对通信联络和执行城市政策等有关事项作了细致安排，进行反复教育，提出了具体要求，很快完成了战前的各项准备丁作。
九、开封城，十万大军鏖战急
6月17日，我军接近开封后，陈、唐下达了发起攻击开封外围的命令。于是，我军6万对开封国民党守军4万，双方将进行一场血与火的激战。
6月17日晨，华野8纵队69团3营占领开封车站以后，即奋力追歼敌保2旅，刚追到铁路旁边，从西面横冲直撞地开来一辆铁甲列车。车上的山炮、60炮、轻重机枪猛烈射击，妄图截断我3营9连的追击道路。9连连长刘兆春立即组织2挺重机枪、6挺轻机枪和集束手榴弹对这个庞然“怪物”开火，一阵猛打之下，它就像一条死蛇僵卧在铁路上了。一个焦头烂额的敌军官和几十名士兵，被迫从铁甲列车上举起白旗投降。铁甲列车和车上满载着的武器弹药，也成了我军旗开得胜的战利品。
华野8纵队67团4连首战开封南关。17日下午4时，4连在炮火支援下，仅用20分钟，就神速越过三道壕沟，打退敌人数次反扑，突破福音堂的外围工事，为攻城部队打下了立足点。
17日晚，3纵一部配合8纵，首先肃清了南关车站之敌，并抢占了宋门关，准备由东面、北面实施攻城。8纵首先肃清了南关车站附近的飞机场及西门外之敌，准备由南面、西面实施攻城。这样，在总攻前各城关大部守敌被肃清。
18日晚11时，陈士榘、唐亮下达了总攻击命令。各种火炮对敌军68师355团固守的小南门进行了45分钟的猛烈轰击。担任突击队的8纵69团3营，首先由8连在半小时内，连续爆破11次。7连1排的勇士在外号“猛虎”的连长孟宪文率领下，仅用5分钟，就冲过百米开阔地，一举登上小南门城楼，向全城发射出第一颗登城成功的信号弹，这时已是19日凌晨1点钟。
和7连l排同时突入城内的还有另外4个排的兵力。这5个步兵排突入城内以后，因作为二梯队的69团1营没有及时跟进，后续部队被敌人切断，这5个排成了入城的“孤军”。
小南门的丢失，使敌人像输红了眼的赌徒一样发起疯来，他们全力反冲锋，以图拔出这个楔入敌阵的钉子。我5个排从深夜激战到天明，共击退敌人连、营以上兵力的反击11次，使敌人始终未能前进一步，而5个排仅剩16人没有负伤。他们一直坚持到19日上午8时。这时，8纵4个团从英雄们固守7小时的小南门突破口，像滚滚铁流涌进开封城，向敌人纵深阵地发动猛攻。
在8纵攻城的同时，陈、唐命令正在小东门（宋门）的3纵，利用敌人炮火集中向南门轰击和组织反扑时，加强对宋门的攻击，结果很快奏效。19日上午就突破了宋门。当敌人指挥部发现宋门被我军突破时，马上又调集炮火对宋门进行猛轰，企图消灭我突击部队于城门口，阻止我前进。我军则利用敌人炮火间隙，一下突进2个团。
6月20日拂晓，3纵8师22团攻下曹门。8师指挥所也接着移到曹门城楼，随即指挥部队继续前进，迅速向纵深突击。22团将23团接人城内后，立即向河南大学及北门城楼发展，23团向教养院发展，24团向古龙亭发展。
向小南门方向突击的8纵队接受任务后，立即不惜一切代价，涉水过河，迅速与小南门被围的8纵战友汇合。这样，开封城内从小南门到宋门的东南角已被我军控制，形势对我军向纵深发展十分有利。8纵乘3纵突破宋门之际，迅速扫清小南门外侧敌地堡群，再度控制突破口，主力部队随即打入城内与城门楼坚守部队会合，随后又相继突破大南门和西门。这样3纵、8纵主力部队全部突进城内。两个纵队的指挥部也进城亲临指挥，各部队多路向敌人纵深穿插，进行激烈巷战。20日晨，兵团前线指挥部搬进城内。
率部反扑的保安第7旅旅长见势不妙，逃之夭夭。敌66师把所有部队撤至龙亭、传染病院、天主教堂和城西北角，保安队撤至省政府，收缩防线，固守待援。
正当开封之敌被我军围歼之际，敌18军星夜兼程北援。6月16日，该敌已进至上蔡城及东洪桥西南地区。我华野第10纵队立即北上，会同中野的1、3纵队向上蔡地区开进，阻击敌第18军，他们一昼夜急行军90公里，17日拂晓至上蔡城近郊，立即与敌展开激烈战斗，杀伤敌人5000多名，迫使敌人不能前进一步，保证了夺取开封的胜利。
敌军原来估计我军即使攻打开封，也是由北面进攻，故在城北配置了较多炮火，但我军后来由南面发起攻击，与敌估计相反。这样敌炮火只好隔着龙亭向南发炮，威力大减。在开封守敌节节败退、处境危殆的情况下，蒋介石只好借助飞机轰炸来威胁我军，仅6月20日一天，就投弹20吨左右，开封女师有400人惨遭敌机火力杀害。《合众社》报道说：“蒋机轰炸开封的结果，已使和平居民的死伤达六七万之众。”为了保护居民安全，我军一突进城内立即命令部队打开城门，组织和协助群众向城外安全地带疏散。
省政府被我军攻占后，河南省主席刘茂恩装成一个受伤的老“教授”，也混在疏散群众之中溜出了开封。
开封战役已近尾声，只剩下教养院和龙亭等地尚未解决。教养院是龙亭东面的重要阵地。21日拂晓，3纵8师一部突入了教养院的核心工事，但连遭敌反冲锋，陷入险境，突破口极有可能被敌封闭。这时奉命执行穿插任务的“洛阳营”，主动以2个连的兵力扑向教养院，3分钟就全部冲进教养院，与反扑之敌展开了白刃格斗。在这关键时刻，这个营的3连也中进突破口，在炮火支援下，反扑之敌被打退了，战士们乘胜攻占了教养院的制高点大洋楼。敌人为了堵住这个致命的缺口，又多路反扑过来，9架敌机也轮番轰炸。但是，凶残的敌人最后被我军的钢铁战土制服了。龙亭，是敌66师师部和13旅旅部所在地，三面环水，攻击比较困难。
这时，敌人援兵的炮火响得更紧了，邱清泉和区寿年兵团不需几个小时就能赶到开封。鉴于这一情况，我军重新研究了作战方案，决定用缴获的敌人大量炮弹予敌以歼灭性轰击，一口气吃掉残敌。
6月21日下午6时30分，我军集中600多门大小火炮，向龙亭阵地猛烈轰击或抵近直接瞄准射击约半小时，敌人的野战工事和绝大部分钢筋水泥工事被摧毁。7点10分左右，我军在龙亭胜利会师，开封战役胜利结束了。
此次战役，我军消灭敌军3．9万余人，活捉了敌66师少将参谋长游凌云、13旅少将旅长张洁，恶贯满盈的66师中将师长李仲辛被我追击部队击毙在城墙下。我军缴获了6000多支库存步枪，3000多桶汽油，32门高射炮，以及其它大批军用物资。
十、“这样有道义的军队，我们打心眼里拥护。”
开封，是我军在关内夺取的第一个省会，开封解放，为今后继续解放大城市取得了经验。党中央对我军在开封的城市政策极为重视，毛泽东主席亲自起草安民布告和对开封守敌的喊话材料，并指出除刘茂恩一人外，其余一概不究。朱德总司令在濮阳会议上也指出：“统一战线政策还是很重要的，反美反蒋的民主统一战线还要扩大，今后来参加这个统一战线的人，反对蒋介石的人还多得很，我们应当联合他们，否则就会把自己孤立起来。”遵照上述精神，我军一进开封城，唐亮等人就以主要精力抓城市政治工作。各部队结合军事进攻，展开政治攻势，使不少敌军士兵调转枪口向敌人开火。
破城当晚11时，由我军民运部长主持，召开了社会名流会议，在会上决定成立临时筹委会。这样就打破了部分上层人土对我军的恐惧和疑虑，在争取他们对我党我军的同情，增强国民党内部的矛盾方面起了一定作用。河南省政府秘书长在我军宽大政策的感召下，感叹地说：“全国人心向你们。”