日军为了实施打通大陆交通线的《1号作战计划》，华北方面军司令官冈村宁次指挥14.8万日军、坦克装甲车691辆(内坦克225辆) ，向中国第一战区蒋鼎文、汤恩伯部8个集团军约30万军队发动了进攻。
4月17日夜，中牟方面日军第37师团及独立混成第7旅团首先从三王、中牟、傅庄强渡新黄河，守军暂27师奋起应战。
战斗至18日凌晨5时许，正对中牟的第2团阵地被突破，暂27师被迫南撤。此时日混成第7旅团由傅庄渡河，占领界马，并沿新黄河西岸向泛东挺进军柴桥阵地进攻，第37师团则分路向郑州、新郑、洧川、尉氏进攻。担任郑州挺进队的日军第22联队先遣第1大队(欠第4中队)，于19日拂晓即以急行军秘密进至郑州车站，并以偷袭占领了郑州北门附近城墙一角。
日军第37师团主力及混成第7旅团亦于19日晚进至尉氏以北。守军暂15军遂突围南退，至薛店集结整顿。铁路桥方面日军第12军主力在中牟方面日军开始进攻后，乘守军注意力集中于中牟方面之机，于18日夜利用夜色掩护，逐次经黄河铁桥潜至南岸邙山头桥头堡阵地，接近攻击准备位置。为解除南进时的侧背威胁，进攻开始前一日(1944年4月19日)晨，第110师团第163联队的第2大队在猛烈炮火掩护下，向邙山头西侧高地上的汉王城据点发动猛攻。
守军预11师1个营奋起抗击，激战至中午前后，阵地全被摧毁，营长王鑫昌以下300余人全部英勇牺牲。
守军第85军当即令预11师控置的预备队第33团向汉王城反击，同时令军工兵营增援摩旗岭，令特务营增援牛口峪，以加强防守力量。但由于日军后续部队不断增加，反击部队伤亡极重，团长余子培身负重伤，反击失利，摩旗岭高地亦于当夜失守，守军第110师撤向乐阳。
摩旗岭高地失守后，日军邙山头右侧已无顾虑，守军炮兵失去设于该高地的观测所，炮火威力无从发挥，对战局颇有影响。20日，守军第85军奉令向塔山、万山地区撤退。于是日军第62师团沿平汉路及其西侧地区直趋郑州，第110师团则向密县突进，战车第3师团及独立步兵第9旅团等均于20日拂晓进至黄河南岸。
至22日，郑州、新郑、尉氏、洧川、荥阳、广武、汜水、塔山、万山等地先后被日军占领。日军第110师团及第37师团第225联队分由北、东两面向密县进攻，于24日占领密县，并继续向登封推进。
25日，第110师团攻占虎牢关，守军第96军一部退至巩县。第12军主力在新郑以南地区集结，作下一步进攻的准备。
4月26日，日军第12军在新郑战斗指挥所召集师团长、旅团长开会，讨论进攻许昌、郾城及向左迂回的问题。