昨夜日軍偷雞不成蝕把米，于是二十八日連續對虎皮山陣地進行封鎖炮擊，並使用飛機進行報復性轟炸。
由于連續作戰，陣地前留有大量日軍遺尸，今年徐州地區氣溫異常，非常炎熱，日軍遺尸開始腐爛。由于日軍的炮擊和轟炸，這些尸體無法運走，因此陣地上臭不可聞。
但是臭不可聞的陣地也有好處，自此以後，第十師團瀨谷支隊再也沒有對虎皮山發動地面進攻。
日軍第十師團在虎皮山陣地連續受挫，他們這一次終于將進攻重點對準了第二師。
第二師的陣地同二十五師陣地相連接，處于虎皮山二十五師的右翼，進攻第二師的是日軍第五師團的阪本支隊。
五月一日，數百日軍步兵在飛機大炮的火力掩護之下對第二師大劉莊一線陣地發起了猛烈進攻。
第二師師長為抗日名將鄭洞國。
鄭洞國，湖南石門縣人，黃埔一期畢業，在黃埔系中素有「長者」美譽。鄭洞國一九零三年出生，在黃埔一期並不具有長者的年齡，堪譽為「長者」是因為他有寬厚的胸懷、博大的氣度。鄭洞國用兵穩健大膽，長于夜襲，為黃埔一期生中的佼佼者。
日軍的進攻氣勢洶洶，但鄭洞國的第二師也非弱者。大劉莊的守軍早就構築了堅固的工事，他們一方面憑借工事頑強抵抗，另一方面不斷派出小股精兵，對阪本支隊的側背發動攻擊。
在第二師這種主動防御之下，日軍進攻的聲勢很大，但是傷亡更大，最終不得不潰退下去。
五月二日，日軍再次對大劉莊進行強攻，但是再堅強的守軍面前，阪本支隊再一次重演了第一天的潰敗。
連續兩日強攻不成，阪本支隊改變了進攻方式。五月二日晚，日軍利用夜色作掩護，他們派一部分兵力悄悄接近守軍陣地，並就地潛伏下來。
三日拂曉時分，日軍飛機大炮突然對第二師陣地進行密集轟炸，潛伏的日軍憑借飛機大炮的掩護突然發起波浪式沖鋒。
鄭洞國的第二師也是久經陣仗，他們善打惡仗硬仗。日軍的突然進攻雖出乎他們的意外，但是經歷了最初的慌亂之後，守軍立刻組織起來，他們拿起手中的武器以最猛烈火力回敬鬼子們，日軍死死傷枕籍。
近距離的戰斗最需要的是可連續發射的自動武器，而這些正是攻防雙方都缺少的，日軍不顧傷亡的波浪式沖鋒在第三波的時候取得了效果，一部分日軍沖進了守軍的陣地，兩軍展開了大規模的白刃戰。
當雙方絞殺在一起時，日軍怕誤傷自己的士兵停止了炮擊。虎皮山上二十五師炮火及時支援第二師，炮兵們對鬼子的後續部隊進行攔阻射擊，日軍的後續部隊被炸得七零八落。
沖進大劉莊陣地的鬼子成了一伙孤軍，第二師的守軍憑借人數上的優勢逐漸佔據了上風。雙方激戰至中午，大部分的鬼子被殲滅，小部分鬼子倉皇逃跑。
日軍進攻大劉莊損兵折將，他們不得不暫停進攻以補充兵力。而第二師為了保持部隊的銳氣，也將大劉莊的守軍輪換為劉玉章指揮的第七團。
過了兩日，經過補充的日軍改變進攻重點，他們向大劉莊右翼發動重點進攻。經過一天的激戰，日軍攻佔了第二師一個營守衛的一個小村莊。
五月六日，日軍從三個方向大劉莊發動進攻，劉玉章的第七團堅守不退，打退了敵人一次次進攻，大劉莊陣地始終屹立不動。
日軍為了方便對第二師發動進攻，他們連夜在大劉莊陣地前的麥田里構築工事。日均如此近距離停留在陣地前絕對是個巨大威脅，鄭洞國當機立斷，他立即調來師預備隊配合大劉莊的第七團從兩翼對日軍發動大規模夜襲。
第二師的果斷出擊給驕傲的日軍狠狠一擊，戰至第二日凌晨，陣地前的日軍全線崩潰，陣地前遺留尸首兩百余具，余者潰逃。
此戰之後，瀨谷支隊、阪本支隊再也不敢對五十二軍發動進攻，僅以零星炮火對五十二軍進行炮戰，以牽制五十二軍主力。
五十二軍在徐州戰場的征戰，是關麟征一生軍事生涯中的巔峰之作。蔣介石在一次講話中這樣說道︰「中**隊如果都像五十二軍那樣戰斗力強，打敗日本軍隊是不成問題的。」真正的勇者也會得到對手的尊重，戰後板垣征四郎評價五十二軍道︰「關麟征的五十二軍應視為普通支那軍的十個軍。」
五十二軍在虎皮山一線和日軍在對峙，而徐州戰場形勢卻急轉之下。
在**一方，第二集團軍、第二十二集團軍、第五十一軍、第六十軍、第九十二軍等在韓莊以南運河沿線以及邳縣以北艾山、連防山、燕子河一線成功阻止敵人的進攻，但是這些**精銳卻與敵人以陣地戰互相膠著，**幾乎所有的機動打擊力量都在被動防守，徐州戰場失去了戰場的主動權。
而在日軍方面，日軍第六師團攻陷合肥，解除了華中派遣軍的主力北上的側背之憂；第九、第十三至團攻陷蒙城、永城重鎮後，一部向隴海路上的黃口突襲，另一部進至徐州西南四十華里的蕭縣地區；蘇北日軍第一零一師團攻陷高郵、寶應，並積極向邳縣西進，以包抄徐州；津浦路北段的第十六師團攻陷魚台、金鄉、豐縣；第十四師團由濮縣附近渡過黃河，連克鄆城、郢城、渮澤、曹縣，威逼蘭封地區，此舉切斷了中**隊第一、第五戰區的聯絡；運河以北正面日軍繞過台兒莊，渡過微山湖佔領了沛縣，其先鋒部隊距徐州僅十余華里。
徐州已陷入日軍四面包圍的局面，為保存抗戰的力量，最高統帥部下達了撤退的命令。
五月十日，五十二軍陣地交由第二軍防守，五月十三日，五十二軍奉命回到歸德整補，二十五師從此退出徐州戰場。