將岐山和中牟的防御交給了跟隨的第4集團軍，新編第一集團軍補充了彈藥和給養後，繼續往西推進，近兩天時間就抵達了開封城外。駐守開封的是日軍第37師團和獨立混成第7旅團，這兩只部隊在日軍攻陷開封後就像其他日軍一樣，干了不少人神共憤的事情。現在到了清算的時候了。
在新編第一集團軍的強大火力碾壓之下，日軍部署在開封城外的據點紛紛被掃平，大炮架到了開封城下，零星的炮擊很快開始。
擔任主攻的還是孫立人的新一軍，其他兩個軍則守衛著其側翼。新一軍的155mm重型榴彈炮一發接一發地發射著重型炮彈。日軍部署在開封城內的倉庫、軍營、炮兵陣地、防御工事在炮彈的爆炸中一一拔出。一開始第37師團還認為是之前中國偵察機探明了日軍的位置，從而在夜晚改變了設防的位置，不過第二天白天依舊在精確的炮火下損失慘重。接連三天這樣的定點炮擊讓日軍吃不消，無法組織起像樣的防守，而開封城外的中**隊卻已經做好了進攻的準備。不但是原來的西面，現在開封城四周都出現了新編第一集團軍的士兵，開封的日軍已經跟日軍第12軍的聯絡已經被切斷，第37師團和獨立混成第7旅團近4萬人的日軍被圍困在了開封城中。
如果有日軍抬頭向太陽的方向望去的話，可能會注意到漫天的硝煙中空中的那個白點。正是第一浮空艦隊派出的一艘高空艦在開封上方時刻觀察著日軍的動靜，並指揮炮擊作業，這才使得被城牆阻隔的開封城中的情況被新一軍清楚地知道。上一次對黃河北岸的炮擊，也是在這艘高空艦的指揮下進行的。
這艘「天雲級」高空艦的首艦——天雲號高空艦是三個月前服役，並裝備柳哲生指揮的第一浮空艦隊的。這一次為了輔助此次被定為「豫東會戰」的戰役，專門從新疆將其調來負責空中監視和指揮。
天雲號高空艦外表就像一個飛碟，直徑100米左右，高50米左右，下方中央就是其主要的負重所在。天雲號正常的工作高度就是兩萬米，這個高空在之前尚未有人類抵達過，所以天雲號上的一切設施可謂是中**工的最高水平。在密封加壓的艙體中，有20名乘員在這里工作和生活。他們負責對地面偵查、拍照，然後將消息通過無線電傳至地面。
同樣天雲號還充當了空中預警雷達的作用，在其上裝備的雷達性能雖然達不到浮空基地上的那麼好，但是同樣能探測150公里左右的領空。跟地面的雷達站相比，部署在天雲號之上的雷達沒有地形的死角，而且移動起來更加方便，是地面雷達非常有益的補充。
天雲號的另外一個用途就是充當信號轉發站，有了它以後，原本通信距離有限的無線電話和無線電報適用範圍更廣了。不過這個功能還處于開發之中，這一次作戰是暫時用不上了，參戰部隊還是得依靠自身的功率進行點對點的通信。
天雲號上大功率的相機和大口徑的望遠鏡將日軍在開封城中的活動一一收入眼底。之前的一天，日軍冒險派出了一個中隊的步兵前往城牆，增強那里的防御，被觀察員發現，很快通過無線電呼叫來新一軍的遠程火炮。數發榴彈在日軍趕到城牆下之前破空而至，一個中隊的日軍就這樣被炸得魂飛魄散，殘肢飛出了一百多米，掛在水塘的樹上，看起來要多慘有多慘。
在天雲號指揮下接連三天的炮擊讓日軍徹底放棄了固定的防御設施，日軍帶著彈藥躲進了中國居民的房屋，將那里霸佔，為接下來的巷戰做準備。由于怕誤傷平民，新一軍並沒有對居民區的炮擊，這讓日軍抓住了最後的一線生機。
3月8日，新一軍出動了，從開封城的西門進入。城門和城牆早就在強一天襲者投下的重磅炸彈下垮塌。雖然破壞這些千年文物非常可惜，但是為了減少作戰的損失，也不得不這樣做。打頭推進入城的當然是數架M3輕型坦克了，新一軍的步兵跟在其後。要跟這些人打巷戰，日軍第37師團和獨立混成第7旅團可算是倒了大霉。在緬甸叢林中那一年，新編第一集團軍除了一開始有戰斗任務外，其他時間都花在訓練上了，而巷戰這一條，又是訓練的重中之重。因為司令羅卓英和軍長孫立人等人都知道，培養他們這樣一只精銳的部隊不是拿來看的，而是為了去收復被日軍佔領的國土，那麼一來巷戰是不可缺少的。
在低矮的房屋群中，M3輕型坦克的優勢非常明顯，它的裝甲可以有效抵御日軍槍彈、擲彈筒和迫擊炮的襲擊。而日軍的山炮和野炮早就被炸毀，少數的幾門對坦克有威脅的戰防炮一露面就被坦克炮或火箭彈給消滅在了民房之中。
而M3輕型坦克上的那門37毫米坦克炮以及三挺機槍卻對日軍有非常大的威脅，脆弱的民房只要挨上一炮，躲在其中的日軍非死即傷。這些美國底特律克萊斯勒坦克廠出產的坦克在開封的巷戰中起到了非常大的作用。
除了M3輕型坦克外，新一軍的士兵還配備了三樣巷戰利器。那就是單兵火箭筒、湯姆森沖鋒槍和火焰**器。前兩個的作用不用說，長短結合將日軍打得鬼哭狼嚎，而火焰**器在戰斗中發揮的巨大作用讓新一軍的將領和士兵感到非常的吃驚。
原本新一軍是沒有裝備火焰**器的，因為在緬甸的叢林中這種武器恐怕會引發難以收拾的森林大火。根據在南昌和九江的巷戰經驗，這一次軍委會也將火焰**器作為需要列裝的武器之一撥付給了新一軍。等這些火焰**器實際投入使用後，新一軍的士兵才體會到這些武器有多麼的慘無人道，不過這是對日軍而言，新一軍的士兵表示很喜歡。
只要對著日軍正在射擊的房屋一噴，長長的火苗就飛出數十米，將面前的一切點燃。剛剛還負隅頑抗的日軍就變成了火人，慘叫著從燃燒的房屋中奔跑出來，這些火人想通過在地下打滾來撲滅火焰，不過這些跟凝固汽油彈的火焰一樣，沾在身上就撲滅不了了，不一會就變成了焦炭。深受空軍投擲凝固汽油彈「驚嚇」的日軍實在太害怕這種來自地獄的火焰侵襲，于是在幾個典型之後，只要看到中**隊拿著這種武器，日軍投降的概率就變得相當之高，這種收獲是之前從未考慮到的。這也是新一軍俘虜了近萬名日軍的主要原因，日軍不怕死，就怕死無全尸。
巷戰進行了2天時間，不大的開封城中的日軍要麼被擊斃，要麼就投降了新一軍，千年古都開封回到了祖國的懷抱。日軍第37師團師團長安達二十三中將非常後悔沒有向東面突圍，他親手燒掉師團旗，然後剖月復自殺以謝天皇。
開封城的光復在第一戰區引起了極大的震動。日軍第37師團和獨立混成第7旅團居然在5天時間中就被全殲，那可是有近四萬精銳的日本兵，還有一個山炮兵聯隊提供火力支援。以往這樣的兵力足以在中國守軍身上拉開一個大口子，但是卻被人數為3.4萬的新一軍所剿滅，新一軍付出的代價是在巷戰中傷亡兩千人而已，這簡直是一場不對稱的戰爭。此前對新編第一集團軍的各種嫉妒和偏見都消失了，別說軍級單位，那8個集團軍任何一個恐怕都不能取得如此的戰績，裝備好是一方面，在指揮上和戰術上的良好修養才是真正使得新一軍取得如此大捷的原因。
而無論是新一軍軍長孫立人，還是新編第一集團軍軍長羅卓英都認為這個勝利毋庸置疑。如果連小小的一座城市都無法攻克的話，何談收復國土新一軍在開封城中稍微休整了一下，另外兩個軍繼續前進，將日軍部署野外和鄉鎮中的重要據點一一掃平。借助大量的卡車，新編第一集團軍很快推進到渮澤、商丘、毫州一線，跟固守在這里的日軍第12軍形成了對峙的局面。
開封的防守交給第28集團軍，第一戰區司令長官衛立煌嚴令第28集團軍司令李仙洲加強防御，特別是隔著黃河的封丘和長桓地區的日軍。因為如果日軍成功渡河的話，新編第一集團軍就會被切斷後路，讓這樣一只精銳集團軍損失在第一戰區，而且是軍委會直轄的部隊，中央軍中的中央軍，這是任何人都無法負擔的後果。即使第28集團軍歸湯恩伯管轄，而湯恩伯很不滿衛立煌和新編第一集團軍，但是湯恩伯也不得不重復了衛立煌的命令，要求第28集團軍的司令李仙洲一定不能大意。