​在晚清，当洋务运动从军工产业转入民用工业阶段时，轮船招商局和开平煤矿是最早的两个官督商办企业，是洋务运动进入民用工业的标志性企业。轮船招商局的成功创办，使中国洋务风气大开。唐廷枢接手轮船招商局后，通过招商入股，扩展规模，很快就打开了新局面，接着创办了仁和、济和水险等公司。三年后，兼并了实力雄厚的美商旗昌轮船公司，打破了外国人对中国沿海和内地的船运的垄断。

洋务运动开始后，蒸汽机普遍使用，商轮兵舰以及机器制造各局，需要使用大量煤炭，而当时中国都是土法采煤，产量低，煤质无法保证，不适应汽机锅炉使用。煤炭能源涉及国家安全，当局提出“中土仿用洋法开采煤铁，实为近今急务”。在湖北、安徽办矿没有成效，河北磁州办矿失败后，洋务派把希望寄托在唐廷枢身上。光绪二年（1876）九月，李鸿章派轮船招商局总办唐廷枢赴唐山开平一带勘测，发现此地蕴藏有丰富矿产，且质地优良，李遂于次年八月派唐筹办，并拟定《直隶开平矿务局章程》，招商集股。

唐山距天津120公里，运煤要从陆地先运到芦台，然后再改为水路，由大沽口入海到天津。这样的运输很麻烦，而且运费也高。如果由唐山至芦台修筑铁路，用火车运煤，既可以减少运输上的麻烦，还可以降低成本，因此唐廷枢认为，真正的困难不在于开采，而在于运输。因此，他上书李鸿章，请求修筑唐山至芦台的铁路；但因资金不足，拟先筑唐山至胥各庄一段。相传明朝永乐年间，赵氏先祖由玉田县彩亭桥迁至王禾庄，后兄弟分家，其弟被王禾南边的人家招赘为婿，后来这里形成了村落取名为婿嫁庄，即男嫁女娶之意。又因谐音演化成了“胥各庄”。

1881年，唐山矿建成出煤，保障了北洋水师、江南制造局、天津机械局、轮船招商局等煤炭供应，改变了煤炭受外国人挟制的局面。唐廷枢虽然买办出身，是他所处的时代使然，也正是有了这段经历，他追求实现国家富强的愿望更迫切。在那个时代，唐廷枢表现出敢为人先的一面。在晚清洋务风气未开之时，引进西方技术采煤，是一项高风险的事情。

李鸿章同意这一计划，于1879年向清廷奏准，并派英国工程师金达督修。但这时，顽固派借口唐山靠近东陵，铁路奔驰会“震动陵寝”而大加反对，在这种情况下，清政府收回了它的批准，第一次筑路尝试就此失败。此后，唐廷枢打算在唐山至芦台间开凿运河，与芦台到天津的蓟运河相接，试图以水运代替陆运，但只开凿了胥各庄至芦台长35公里的一段，因为胥各庄到矿区那段路地势高陡，河水上不去。在一进退两难的情况下，直隶总督李鸿章授意唐廷枢再次奏请修建运煤轻便铁路，声明为免于震动东陵，不用机车，而用骡马牵引。

李鸿章并为此在清廷中积极斡旋，最后，清政府在极度不愿意的情况下允许筑路。于是，1881年6月9日，自唐山起至胥各庄（今丰南县）一线的唐胥铁路开始铺轨，采用1.435米的轨距和每米15公斤的钢轨，这条铁路是在清政府洋务派主持下，由开平矿务局负责集资修建。9月，全长9.7公里的唐胥铁路竣工，开始试运行。1881年11月8日，唐胥铁路正式通车。起初只能用骡马充当火车头，在钢轨上拖曳煤车，当时被称为“马车铁道”。

1882年，开平煤矿的煤产量猛增，骡马拉车实在力不胜任，大量的煤运不出去。金达利又设计并指导中国工匠们精心制造了一台规范、精良的蒸汽机车，它可以和同时代的外国机车相媲美。当时矿务局的英籍工程师薄内的妻子为机车起了名字，叫"Rocket of China"，意思是“中国火箭”，这是仿照斯蒂芬森那台著名机车“火箭”号而命名的。参与制造机车的中国工匠在车头两侧各镶嵌了一条金属刻制的龙，因此大家又把它称作“龙”号。

这台中国人自造的第一台机车，虽然牵引力只有百余吨，构造也比较简单，但它充分表现了中国工人的创造力。“龙号机车”行驶了几个星期，起初并没有引来什么麻烦。但不久便被清廷命令停驶，一停就是几个星期。原来消息终于传到了北京，“都中言官复连奏弹劾，谓机车直驶，震动东陵，且喷出黑烟，有伤禾稼。奉旨查办，旋被勒令禁驶”。

事实上，清东陵在距唐山50公里外的遵化马兰峪，所谓震动无从谈起，无非是保守派反对修铁路的借口。所幸制造和让机车行驶的金达是个英国人，再加上清政府刚刚建立的北洋海军舰艇急需燃料煤，因此经过开平矿务局和李鸿章的疏通斡旋，“龙号机车”停了些许日子，又可以喷气运转了，以后便一直使用，直到从英国运来了两个车头。“龙号机车”退役后曾存放在北京府右街交通陈列馆，当时还可以生火行驶，以供观瞻。1937年日本侵略者占领北京后，将该馆迁移到和平门内的一条胡同里，以后这台中国制造的著名机车便离奇地失踪了。

1886年，成立中国自办的第一个铁路公司———开平铁路公司，收买唐胥铁路后开始展筑，并独立经营铁路业务。1887年，唐胥铁路展筑至芦台，1888年展筑至天津，李鸿章等巡视并主持通车仪式。路方特备花车一辆供来宾乘用。1894年天津至山海关间通车，改称津榆铁路，1897年由天津通到北京城外马家堡，1901年延展至北京正阳门。后来北端延至沈阳，成为我国最早的关内外铁路。