3月30日晨，台儿庄内中国守军为歼灭西北角残敌，使用迫击炮对准敌碉堡猛轰，日军纷纷逃窜，依托附近民房顽抗，守军奋起追杀。战至上午11时，日机7架轮番轰炸庄内，康副师长被炸成重伤，其他官兵伤亡300余人。庄东北角踞在大庙的日军在敌机炮火掩护下趁势向外扩张，城东北角民房尽陷敌手，情况再度危急。池峰城命令所部全力反击，夺回失地，战斗极为惨烈。战至下午1时，固守南北大街的我军防御阵地被日军突破，幸亏援军赶到，城内危机稍释。为夺回庄内失地，第三十一师官兵自报奋勇组织了57人敢死队，队长由时营长担任，分成六个突击组，王冠五旅长具体部署方案。晚8时，57名壮士杀入敌阵给日军以沉重杀伤，激战至拂晓全歼了进西北角的日军，挽救了战局，奠定了台儿庄会战胜利的基础，57名壮士仅剩13人生还。30日夜，第二十七师、第三十师也组织夜袭突击队，重创了南洛和刘家湖等地日军的兵力。

3月31日，台儿庄城内之敌又冲破我城内一段阵地，战斗愈打愈烈，几乎每个巷子每座房屋都要几经争夺。战局最危机时，日军攻占了台儿庄城内的五分之四。

4月1日，第二集团军为从速歼灭台儿庄城内残敌，孙连仲给各部下达如下命令：一、命第二十七师挑选250人的奋勇队，从台儿庄东北角寨墙爬入，坚决消灭盘踞在碉堡及大庙的日军;二、第三十师以优势兵力向三里庄之日军发起攻击，并确定占领之;三、第三十一师待第二十七师奋勇队进庄打响后，积极配合作战，给敌形成内外夹攻之势;四、炮兵队集中火力向刘家湖日军射击。台儿庄附近日军由于连续受到中国军队的攻击，精锐之部伤亡殆尽，已成强弩之末。日军飞机仍不断向庄内投弹轰炸，庄内皆是断壁残垣，已成一片焦土。