22日晨开始，汤军团向枣庄附近之敌发起反击时，敌27旅团已没有多少机动部队，最后仅抽调约两个步兵中队、两门重炮，于22日的傍晚到达台儿庄增援。

日军援兵开到后，遂开始猛烈炮轰中国军阵地及防御工事。

战斗激烈时，第2集团军阵地每日落炮弹达六七千枚之多。

炮轰之后，日军以坦克为前导，向台儿庄守军阵地猛冲。

将台儿庄外围阵地工事摧毁后，敌步兵乃跃入据守，步步向前推进。

台儿庄一带，耕地之下盛产石块，居民叠石为墙，每一住宅就是一堡垒。

这种石墙被敌人冲入占据之后，中国军因无平射炮，又无坦克，无法反攻。

但守军以血肉之躯与敌方烟火、坦克相搏斗，至死不退。

敌人猛攻3昼夜，才冲入台儿庄城内，与守军发生激烈巷战。敌我遂在台儿庄寨内作拉锯战，战况异常惨烈。

第2集团军至此巳伤亡过半，渐有不支之势。关键之际，战区司令长官李宗仁严令孙总司令死守待援。前沿日军见第一次增援后，仍然无法发动进攻，随即要求继续增援！

23日凌晨2时，前线的日军再此给第27旅团部发来了求援电报：“敌兵力为3个师，庄内1、庄东1、庄西及包围我大队1，大队等待增援，目前部队减员严重，突入庄内的部队生死不明！”

房岛丰太郎接到第2次要求增援的电报时，亦接到第14师团部要其对台儿庄进行果断攻击的指示。

当下房岛决定由2联队长横山静夫率仅有的第3大队前往增援。

当24日横山静夫在前进的途中时，在台儿庄的第2大队已发起攻击，结果台儿庄东北角一段被其占领，但31师又很快将其包围。

4月24日，日军在9辆战车的掩护下，猛攻台儿庄，突破北门，占领东北角。中国战防炮大显神威，击毁敌战车6辆。国军空军部队为了有力地配合地面部队作战，于4月25日晨用14架轰炸机轰炸了在韩庄、临城和枣庄之敌。

25日拂晓，汤恩伯部队的85军在枣庄、郭里集，52军在峄县等地发起了攻击，包围了在郭里集准备去临沂的敌第59联队的第2大队。

当日，房岛丰太郎决定在枣庄以东的郭里集一带集中力量与汤军团决战，因而这个大队即被迫取消了去临沂的计划。