所以，两人决定再接再厉，继续进攻，并为此制定了详细的作战计划。

根据这个计划，日军将兵分三路，北路军由开封、中牟攻向郑州；中路由杞县、通许、尉氏攻向平汉路上的新郑；南路由柘城、太康攻向许昌。

最终，三路大军将会会师郑州！

随着日军的再次转入攻势，郑州及平汉路沿线上的形势也迅速紧张起来。

依照畑俊六的命令，第3师团由宿县南移，经与李品仙的淮南兵团第48军一部战斗后，6月3日攻占了淮南煤矿，5日攻占了寿县。

第13师团于4日攻占了凤台，5日，攻占了正阳关，从而控制了蚌埠以西约100公里的淮河两岸地区。

吉住良辅的第9师团在向徐州西南地区追击后，至蚌埠集中，然后返回常州、无锡、苏州一带，担任警备。

而寺内寿一则是在6月2日下达新的作战指令：将在兰封的108师团归稔彦中将的第2军指挥；第2军部队向以西之中牟、尉氏进行追击；另派出一部向平汉路挺进。

尽管寺内的上述决定已超出其大本营5月21日规定的作战限制线，但他认为击溃第108师团当面之国军为第一要义，到达平汉线附近地区，则可为进攻武汉创造条件。

而稔彦中将的第2军所属3个师团及两个混成旅团，按上述命令继续向西追击。下元熊弥的第108师团于6月6日沿铁路向西攻占了开封，7日攻占了中牟，骑兵第14联队一部到达了平汉路，在新郑地区炸毁了一段铁路。

中岛今朝吾的第16师团及所属的混成第3、第13旅团，由宁陵向尉氏西进。

6月3日，该敌攻占了杞县和通许，4日在尉氏以西地区集结。

随后，中岛派出了第30旅团长筱原次郎少将率所部第30、第38联队共5个步兵大队，由尉氏向西经李君，并攻占了新郑以南约6公里平汉路上的双泊河一带，炸坏了铁路桥。

土肥原的第14师团则是从亳县出发，并于6月3日攻占了柘城，随后向太康方向进攻。

面对咄咄逼人的日军，国军方面也迅速做出调整，第一战区先是令俞济时之74军后撤至开封以东的留军营车站地区，与杞县、太康构成正面向东之防御线。随后，又命令作为战略机动部队的胡宗南的第17军团后撤至郑州，加强郑州的防御。

紧接着，战区长官部又令李测民之第20师担任开封以东的防御，原在该地的桂永清第27军西开洛阳，商震的第20集团军转移至开封以西之中牟地区。

后即相继将在太康的71军，杞县之64军，留军营之74军西撤至贾鲁河与平汉路之间地区。

但是，面对已经杀红了眼的日军，国军方面的应对显得进退失衡，各部队节节败退，形势非常的不利。

为了从战略上迟滞敌人，阻止敌军西进，国军经多方面研究，最后决定炸开郑州以北的京口、花园口之黄河大堤，以黄水阻敌西进。