和周德润一起参与围攻刘铭传和李鸿章的还有张家骧、张楷、刘锡鸿等顽固派官员。概言之，他们把铁路说成是外国的“奇技淫巧”，不值得提倡，攻击铁路有“三弊”、“九不利”、“不可行者八”、“有害者九”，等等。他们还把修建铁路与中国传统的风水之说联系在一起，别有用心地说如果允许在中国建造铁路，必将导致“山川之神不安，即旱潦之灾易召”。

在顽固派官员的同声反对之下，光绪七年（1881年）初，清廷正式下旨：不从刘铭传试办铁路之请，明确指出“叠据廷臣陈奏，佥以铁路断不宜开，不为无见。刘铭传所奏，著毋庸议”。

虽然刘铭传的动议被搁置了，但实际上以李鸿章为首的洋务派已经准备要偷偷地筹划修建铁路了。

还在1879年，在直隶总督、北洋大臣任上的李鸿章就和轮船招商局总办唐廷枢等人筹划修建一条从唐山到胥各庄的铁路，以方便运出开平矿务局所出产的煤炭。这个计划一度因为顽固派官员认为铁路经过清王朝的“东陵”所在地，会“震动”陵寝等理由而搁浅了两年多的时间。在刘铭传的建议被清廷否决之后不久，李鸿章迎难而上，继续游说朝廷，争取支持。他一方面在朝廷中枢加紧斡旋；一方面授意唐廷枢再次奏请修建运煤轻便铁路。为了打消清廷大员的顾虑，李鸿章还玩了一个小小的权谋，他让唐廷枢向朝廷保证说：为了不至于“震动东陵”，建成后的铁路将“不用机车而用骡马牵引”。在李鸿章“遇见红灯绕着走”的政治智慧指导下，唐胥铁路终于获得了最高当局的批准。1881年6月24日，唐胥铁路正式开工建设，同年的农历十一月间竣工，路长18华里，成为中国正式修造铁路的肇端。

唐胥铁路建成后，按照李鸿章等人向清政府做出的不用机车牵引的承诺，这条铁路实际上是世界铁路史上罕见的一条“马车铁路”，也就是说牵引列车车厢的不是机车，而是骡马！但这个世界铁路史的怪胎很快被弃之一边。参与督建铁路的英国工程师金达，利用开平矿务局的一台废弃的旧锅炉造出了一台小型的蒸汽机车，命名为“中国火箭号”，在这条铁路上成功地实现了试运行，以自己的实践证明了这条铁路的优良性。再后来，更是从英国购来了机车、货车，开始了正常的运营。据说，李鸿章本人此后还曾经乘坐过金达从国外购进的机车，视察过这条铁路。