郑州站的前身为郑县站。1902年，卢汉铁路（即后来的京汉铁路）郑县站开工建设，1904年3月建成。1910年，京汉铁路和陇海铁路在郑县站平面交叉，郑县站铁路交通枢纽的地位确立下来。随后，小小的郑县依靠铁路渐趋繁荣，形成了郑州商贸城的雏形，以至于后来郑州被喻为“火车拉来的城市”。
百年风雨路，新桃换旧符。今天的郑州已经成为一座屹立在中原大地的美丽城市。一路走来，它历尽艰辛。
清朝末年，时任湖广总督的张之洞力排众议，提出应首先修建从卢沟桥经河南到汉口的铁路。在卢汉铁路线路选择上，受当时建筑水平所限，黄河桥的选址成为关键因素。由于当时河南省首府开封一带的黄河是著名的悬河，建桥投资大、风险大，张之洞在奏折中主张在“滩窄、岸坚、经流不改之处”建桥，建议选址在“邙山头”。在“邙山头”建桥有两点优势：一是渡河的距离近，二是地基牢固。清政府最后采纳了张之洞的意见，决定经郑州修建卢汉铁路。可以说，正是“邙山头”的存在，才让历史再次眷顾郑州，成就了古老商都20世纪的复兴之路。1906年4月1日，京汉铁路全线通车。与此同时，汴洛铁路也于1904年动工、1909年竣工。两大铁路干线在郑州交会，使郑州一跃成为全国的重要交通枢纽。
1928年3月，郑州市政府正式建立。
1948年10月，郑州解放后，陇海平汉铁路郑州联合管理委员会成立。到1949年底，京汉全线、陇海线宝鸡以东全部修复通车，这对恢复国民经济、支援全国解放战争起到了重要作用。
铁路不仅改变城市的经济发展生态，而且深刻改变着其社会管理形态。1954年10月底，包括省委、省政府、省军区等省直属机关和部队机关的近7000名工作人员迁往郑州。这次省会搬迁，不仅改变了郑州、开封两座城市的命运，也影响了河南省的发展格局。省会迁址，让郑州再次成为全省的政治中心。
“省会为什么要迁郑？一句话，便于河南全省的工作。郑州地理位置适中，交通方便，除当时河南省的南阳市不临铁路外，其他均在铁路沿线。”1954年11月1日，河南省委第二副书记赵文甫明确地说明了河南省会迁址的缘由和意义。
中原铁路的快速发展，也成为河南省经济社会发展的强大引擎。
1953年至1957年，郑州铁路局建设乘势而上，有了很大发展：新建孟宝干线、西江支线101.6公里；建成京广双线64.1公里；修通陇海线天水至郑州段，陇海铁路全线在1954年最后建成；1957年10月，武汉长江大桥通车，连接京汉、粤汉铁路，贯通京广线。到1957年底，郑州铁路局基本管辖河南、湖北、陕西省境内铁路，营运里程达到2063.2公里。1958年1月，宝成铁路建成通车，郑州局的管界跨界四川境内。
同期，郑州局运输设备也有较大改善。1962年，郑州局电力机车达到29台。郑州局对旧有蒸汽机车大力进行装修和改造，并逐步以国产蒸汽机车代替。1962年，蒸汽机车配属744台；逐步用中国自行设计制造的21型、22型代替老型客车，运输货车日均保有量达到7722辆。
京广铁路河南区段的黄河大桥是一座旧桥，由于大桥的承载能力有限，原来一组列车要分成两次通过，过桥时间最长要3个小时。1950年至1952年，铁道部先后5次组织对黄河大桥进行维修加固，竣工后改用大型机车一次牵引，整列通过，运行时间缩短到4分钟。
在京广、陇海两大铁路干线交会处，镶嵌着一颗璀璨的明珠，这就是亚洲作业量最大的列车编组站——郑州北站。它连接华北、华东、华南、西北和西南铁路，是我国铁路交通的重要枢纽。1955年10月，郑州北站施工建设正式拉开帷幕，分一、二、三期工程和扩建工程、续建三期工程5个阶段进行，历时30年。
1955年11月，郑州站升级为特等车站。1956年10月30日，郑州站新建客运站舍落成并交付使用，两层候车室可容纳3000多人候车，结束了以芦苇席棚候车的历史。1959年3月，第二期工程竣工，建成下行系统到达、编组、出发三场。1959年底，第三期工程开工。1962年11月2日，郑州站新老两场分为两个车站，老场改为郑州客运站，新场改为郑州北站(枢纽编组站)。1963年1月1日，郑州北站正式成立。
郑州北站是我国第一个双向纵列式三级八场半自动化的特大编组站，也是目前亚洲作业量最大的列车编组站，承担京广、陇海两大干线东、西、南、北4个方向货物列车的解体、编组任务，在路网运输中具有十分重要的战略地位。。
改革开放以来，郑州北站的现代化建设日新月异，迎来了电气化引入、到发场扩建等具有世界领先水平的现代化建设施工高潮。走进郑州北站，您一定会为那恢宏的气势赞叹不已：编组站区雄伟壮阔，车流滚滚，机声隆隆；铁道纵横如银链坠地，灯桥飞架似钢铁长虹；中间站区，一趟趟货物列车穿梭来往。
这是一片奔涌着钢铁洪流、极富动感和活力的土地，一片充满雄浑之气、阳刚之美的土地。这片土地，搏动着中国铁路的“路网心脏”。
在这片土地上崛起的亚洲作业量最大的列车编组站，为郑州奠定全国交通枢纽的位置立下了不朽功劳。
从蒸汽机车到高铁，铁路如同一只浴火的凤凰，逐步实现着它的东方之梦。
如今，当我们走进百年郑州站，步入宽敞明亮的售票大厅，坐于环境舒适的高架候车室时，会被郑州站翻天覆地的变化所感染。从这里，我们看到了中国铁路发展的足迹。
“勿忘昨天的苦难辉煌，无愧今天的使命担当，不负明天的伟大梦想。”这是郑州铁路人的情怀和格局。