当双方绞杀在一起时，日军怕误伤自己的士兵停止了炮击。虎皮山上二十五师炮火及时支援第二师，炮兵们对鬼子的后续部队进行拦阻射击，日军的后续部队被炸得七零八落。

冲进大刘庄阵地的鬼子成了一伙孤军，第二师的守军凭借人数上的优势逐渐占据了上风。双方激战至中午，大部分的鬼子被歼灭，小部分鬼子仓皇逃跑。

日军进攻大刘庄损兵折将，他们不得不暂停进攻以补充兵力。而第二师为了保持部队的锐气，也将大刘庄的守军轮换为刘玉章指挥的第七团。

过了两日，经过补充的日军改变进攻重点，他们向大刘庄右翼发动重点进攻。经过一天的激战，日军攻占了第二师一个营守卫的一个小村庄。

五月六日，日军从三个方向大刘庄发动进攻，刘玉章的第七团坚守不退，打退了敌人一次次进攻，大刘庄阵地始终屹立不动。

日军为了方便对第二师发动进攻，他们连夜在大刘庄阵地前的麦田里构筑工事。日均如此近距离停留在阵地前绝对是个巨大威胁，郑洞国当机立断，他立即调来师预备队配合大刘庄的第七团从两翼对日军发动大规模夜袭。

第二师的果断出击给骄傲的日军狠狠一击，战至第二日凌晨，阵地前的日军全线崩溃，阵地前遗留尸首两百余具，余者溃逃。

此战之后，濑谷支队、坂本支队再也不敢对五十二军发动进攻，仅以零星炮火对五十二军进行炮战，以牵制五十二军主力。

五十二军在徐州战场的征战，是关麟征一生军事生涯中的巅峰之作。蒋介石在一次讲话中这样说道：“中国军队如果都像五十二军那样战斗力强，打败日本军队是不成问题的。”真正的勇者也会得到对手的尊重，战后板垣征四郎评价五十二军道：“关麟征的五十二军应视为普通支那军的十个军。”

五十二军在虎皮山一线和日军在对峙，而徐州战场形势却急转之下。

在国军一方，第二集团军、第二十二集团军、第五十一军、第六十军、第九十二军等在韩庄以南运河沿线以及邳县以北艾山、连防山、燕子河一线成功阻止敌人的进攻，但是这些国军精锐却与敌人以阵地战互相胶着，国军几乎所有的机动打击力量都在被动防守，徐州战场失去了战场的主动权。

而在日军方面，日军第六师团攻陷合肥，解除了华中派遣军的主力北上的侧背之忧；第九、第十三至团攻陷蒙城、永城重镇后，一部向陇海路上的黄口突袭，另一部进至徐州西南四十华里的萧县地区；苏北日军第一零一师团攻陷高邮、宝应，并积极向邳县西进，以包抄徐州；津浦路北段的第十六师团攻陷鱼台、金乡、丰县；第十四师团由濮县附近渡过黄河，连克郓城、郢城、菏泽、曹县，威逼兰封地区，此举切断了中国军队第一、第五战区的联络；运河以北正面日军绕过台儿庄，渡过微山湖占领了沛县，其先锋部队距徐州仅十余华里。

徐州已陷入日军四面包围的局面，为保存抗战的力量，最高统帅部下达了撤退的命令。

五月十日，五十二军阵地交由第二军防守，五月十三日，五十二军奉命回到归德整补，二十五师从此退出徐州战场。

;