1884年8月的中法马江战役，是中国近代海军组建以来对外第一仗，却以福建水师几乎全军覆没惨告结束。海军的惨败，才使清廷开始重视海军建设。此前，海军发展很不理想，除北洋海军外，其余南洋、福建、广东三支水师发展极其缓慢。更重要现在看来更难理解的是，全国竟然没有一个统一的海军指挥机关，各支水师皆由当地督抚管辖，本就很难协同作战，而各督抚更将水师看作是自己的私产，更难调遣。简单说，清廷仍是用管理传统水师方法管理近代海军，根本未意识到近代海军装备技术相当复杂，必须高度统一、系统管理，远非当年水师可比。
对此种状况的危害，李鸿章十分清楚。所以在1884年2月末，即中法马江海战半年前，他就曾向总理衙门建议设立“海部”统管全国海军。然而，李鸿章的这一急迫的建议并未得到朝廷赞同。直到半年后中国海军马江惨败，朝廷这才开始再次“筹议”海防，李鸿章当然不会放过这一等了十年才来的机会，上了长长的 《设立海军衙门折》，充分展开、论述了建立全国性“海军衙门”的理由。在这个奏折中，李鸿章并不就事论事，而是详细、全面回顾了近十年来近代海军建设的艰难历程，提出了海军事业的发展蓝图。他把这些年自己的想法与苦水一倾而出，字里行间隐现出对朝廷对海军事业重视不够的不满和对今后能得到朝廷的支持的期盼。
收到李鸿章的奏折，清廷认为所言甚有道理，便要他来京，与中枢各位大臣一同商议其事。9月30日，清廷谕令军机大臣、总理衙门王大臣、会同李鸿章妥议海防事宜，醇亲王奕 也一并与议。最后由总理衙门复奏，提出设立海部或海防衙门，由特派王大臣综理其事，考虑到可供海战之船不多，暂时先从北洋已有船只精练海军一支，等到以后再考虑其他舰队。10月12日，慈禧太后发布懿旨，同意成立“总理海军事务衙门”（简称 “海军衙门”），由醇亲王奕 为总理，庆郡王奕、李鸿章为会办，曾纪泽为帮办。
但谁也没想到，在李鸿章的运作下，海军衙门竟“破天荒”开始修筑铁路。
原来1880年底关于是否能修铁路的大争论以洋务派失败而告终，但李鸿章并不甘心，一直在寻机重提此事，而且，他明白修铁路虽然不可能作为一项“国策”，但有可能在他的势力范围内作为一项“地方”的“土政策”施行。
就在争论最激烈的1880年，他就悄悄开始试探性地动工修建开平煤矿唐山至胥各庄铁路，以便运煤；1881年这条约10公里的短短一段铁路建成后，他才正式奏报清廷，并有意将其说成是“马路”，真不愧是后来“遇到红灯绕开走”的前辈。李鸿章汲取了在“大争论”中未得到朝中有力支持而失败的教训，所以在修路的同时积极活动，寻求权贵的支持。此时醇亲王奕早已取代恭亲王奕盉最为慈禧太后倚重，所以李鸿章全力做他的工作。他多次给奕 写信，说明兴办铁路的种种好处，奕 有所心动，所以李才敢将唐胥路修完。但李一直认为修路应是举国兴办，所以在给醇 的信中说修铁路在中国“阻于浮议”一直未能兴办，并且明确表示希望由奕 直接出面“主持大计”。
1885年中法战争结束，战争中暴露出海军调度协调的问题，清廷最终同意成立“海军衙门”；同时陆军调兵遣将行动迟缓的严重问题也暴露出来，清廷也不得不面对这个问题重新考虑是否应当修铁路。在这种情况下，经过醇 、李鸿章的努力，清廷终于在1886年决定将铁路事宜划归由奕为总理，李鸿章等人为会办的海军衙门办理。
1886年，身为海军衙门总理奕到天津巡视北洋海口，与李鸿章具体商订修路办法。奕 后来说他对修铁路以前也曾“习闻陈言，尝持偏论”反对修路，但经中法战，又“亲历北洋海口，始悉局外空谈与局中实际，判然两途”，于是支持修路的态度更加坚决。但以奕 此时的权位之重，却也不敢大张旗鼓地主张修路，所以在天津巡视北洋海口与李鸿章商议时也不得不想方设法避开强烈的反对意见。他对李鸿章说，如果修铁路，还必须从已修成的胥各庄一路修起，因为修唐山到胥各庄的铁路是为了运开平矿的煤，关系不大，反对的意见可能会小一些，这样此事才有可能办成。李鸿章也认为事情只有如此才可行，更加在唐胥铁路基础上逐年修建，相当一段时间内所经之地都在他管辖的直隶境内，更易办成。
据此，李鸿章采取一点点来、稳步前进的策略。开平矿务局在李鸿章的授意下就在这一年便以要运煤方便商业为理由，将唐胥铁路延长到芦台附近的阎庄，总长从10公里延长到约40多公里，改称唐芦铁路。同时，李鸿章趁热打铁，成立了开平铁路公司，招集商股25万两。就在1886年底，李鸿章又与奕 相商，提出将唐芦铁路延长修建到大沽、天津。1887年春，由奕出面奏准动工修建，强调这段路是“为调兵运军火之用”，并将开平铁路公司改名为中国铁路公司。此路第二年便告建成，这条从唐山到天津的铁路全长终于达到130公里左右。
可以看到，从1880年修唐胥路到1888年延长到天津，几年间李鸿章一直紧锣密鼓，不放过任何“可乘之机”，硬是一点点修成了铁路。在他的策动下由“海军衙门”负责修建铁路，也反映了当时的“中国特色”。
