段祺瑞听了荫昌这一番劝导，方如大梦初醒。这个自小离开父母、家庭，在军营中长大的青年，四书五经、纲常礼教的常识不是没有，只是还没有积淀以国为家、以“礼”侍之的那些只可意会不可言传的丰富的实践经验，官场沉浮的花花肠子还太少。所以，尽管荫昌苦口婆心地劝，他仍旧“狂”心未泯，忍不住又道：
“我还是不甘心被人讥笑！”
荫昌无奈，想出一招：
“既这样，你何不先拍一封电报回去，请示过朝廷再作决断？”
德国克虏伯兵工厂车间。
段祺瑞还真听话，立即发了封电报给军机处，请转奏朝廷准许他剪掉那象征着大清子民的辫子。
结果可想而知。
段祺瑞复又拖着他的辫子，一边学习着德国先进的军事理论和军事技术，一边丰富着为人处世的人生经验。一眨眼的工夫，就结束了他在柏林短短一年的军校深造生活。
在别人学毕归国时，段祺瑞又被留在德国，到克虏伯炮厂实习，据说这是李鸿章特批的。为栽培这位合肥小同乡，李鸿章还先后两次写信给段祺瑞，勉励他“精学苦造”。
段祺瑞进入克虏伯炮厂，正逢克虏伯企业蓬勃发展时期。“铁血宰相”俾斯麦实施的优惠政策和德国1870年的对外战争，给这个已在欧洲声名显赫的军火制造商世家带来滚滚红利。号称“火炮大王”的阿尔弗雷德？克虏伯，把他的武器军火向四十六个国家倾销，而且他的战舰、火炮、弹药等各式武器，都属当时世界一流。段祺瑞在这个世界第一流兵工厂实习半年多，进一步熟悉了先进火炮的制造和使用技术，也加深了他对德国军事工业及军事现状的了解。
1890年冬，25岁的段祺瑞带着潜心学到的先进军事知识和技术，更带着决意革新中国军事制度的热情与信念，回到了正处在多事之秋的祖国。
像他那些首次留德的前辈一样，段祺瑞回国后，也被“挂”了起来。最初，看他精通枪炮技术，主管部门就把他安排到北洋军械局，当了名无关痛痒的“委员”。一年后，他又被调回威海卫某随营武备学堂任教习。所谓“教习”，也属闲职，无兵权财权，连发言的机会都很少，更别说推行自己的改革方案了。在德国已经习惯了没事就和朋友们纵论世界军事现状，横议中国军人种种弱点以及未来军队改革方案的段祺瑞，在离他宏伟抱负相去甚远的闲职上，一待就是五年，这也是没法子的事。像他这等从军事学堂毕业包括留学回来的新式军人，处境大多如此。也不怪那些花巨款培养他们并送他们出国的人，因为谁让当时中国军界处在“只有新教育而无新编制之军队”(文公直．最近三十年中国军事史．上海太平洋书店，1930．15)的历史阶段呢？这好比在没了肥力的陈土里插种嫁接来的新芽儿，还能指望它怎么样？
倘若段祺瑞就那么生活下去，历史上就不会出现步“李合肥”(鸿章)之后的又一政坛主角——“段合肥”，更不会有民国时期那个一度纵横捭阖、叱咤风云的北洋“虎”将。然而，历史的大潮把他又一次推将上去，命运之神再次为这位不甘寂寞的青年军官打开机遇之门，让他长驱直入，又冷眼看着他在里面上下浮沉，奋力挣扎。
1894年，日本借朝鲜东学党起义之机，出兵侵占朝鲜，并进而向中国海陆军挑衅，意欲发动全面侵华战争。
7月24日，埋伏在牙山口外的日本战舰不宣而战，在丰岛海面突袭中国船舰。运兵船“高升”号被鱼雷击沉，七百余名中国士兵全部殉难。7月29日，日军又在陆上突袭驻成欢清军，聂士成率部奋勇抵抗。为李鸿章所器重的淮军老将叶志超却望风而逃，做了“长脚将军”。
8月1日，中日两国互相宣战，甲午中日战争爆发。
9月15日，日军在平壤大战中重创清军，叶志超再度弃城逃跑，且一路退过鸭绿江，日本全面控制了朝鲜半岛。
9月17日，日军将战火烧到中国境内——日本联合舰队在鸭绿江口的大东沟海面袭击清军北洋舰队，发动黄海海战，被李鸿章一手提拔的海军提督丁汝昌率舰队奋勇迎敌，“致远”舰、“经远”舰数百官兵在管带邓世昌、林永升带领下浴血奋战，直至壮烈殉国，北洋舰队遭受了前所未有的重创。
10月，日军分海、陆两路入侵中国本土，并在两个多月的时间里，攻安东(今丹东)，占金州，不战而取大连，进而夺岫岩、破旅顺、陷海城……一路如入无人之境，清军纷纷败阵，仓皇而溃。
1895年2月，日军包围刘公岛，向蛰居港内的北洋舰队发起毁灭性的攻击。“定远”、“来远”、“威远”、“靖远”诸舰先后沉没，鱼雷艇突围时全部被俘。作为统领舰队的北洋舰队提督丁汝昌拒绝投降，于11日服毒殉职。日军占领刘公岛，掠去十一艘舰只及其他军械，北洋舰队——这支由李鸿章创建的晚清中国最大的海军舰队就这样全军覆没了。
4月17日，清政府与日本签订了丧权辱国的《马关条约》。
甲午战争中北洋舰队和湘、淮陆军的惨败震惊朝野，举国上下一片“整军经武，以救危亡”的激越呼声。朝臣疆吏纷纷条陈时务，力主“仿用西法”创练新军。光绪皇帝也把采用西法改造清军视为“救时之策”。于是，清政府终于决意彻底整治旧式军队，变革军事制度——中国近代军事改革便由此开始“进入实质性阶段”(何硕丰主编．中国军事百科全书？中国近代战争史分册．军事科学出版社，1994．76页)。
清政府的军事力量始于“八旗”。“八旗军”是努尔哈赤在征服各部落的战争中建立起来的军队。清军入关后，又先后建立了蒙古八旗和汉军八旗，共为二十四旗，不过习惯上仍统称为“八旗”。随着清王朝的建立和发展，八旗子弟永远领饷当兵，遂成为一种享有特殊权益的旗民。他们凭借资格和特权，放荡不羁，不理军务，胡作非为，腐化堕落，丧失了战斗能力。于是，“绿营兵”便起而代之。
“绿营兵”是清朝入关后招募、编练的汉人军队，因用绿旗为号，故称之。乾隆中叶，这支军队军事力量也每况愈下，将领生活奢侈，兵士纪律废弛。到了鸦片战争时期，绿营兵已经积弊深重，不堪战守，“兵不见将，将不见兵”。太平军起，“旧日绿营，遂同虚设”。在这种状况下，号称“中兴名将”的曾国藩和李鸿章，便统率着他们的“湘军”、“淮军”，登上近代中国军事舞台，并在镇压太平军和捻军过程中建立了所谓的“煊赫功勋”，成为清王朝军事上的重要支柱。
李鸿章的淮军是依照湘军营制组建而成的。
曾国藩在创建湘军时，的确下了一番工夫，动过不少心机。为了把这支军队牢牢控制在自己手中，他采取了一整套不同于八旗、绿营的编练方式。首先，他针对八旗绿营士无斗志、将不同命的状况，将勤王忠君和扞卫封建伦理纲常作为建军根本宗旨。在湖南乡里网罗一批具有“忠义血性”和亲朋、师生关系的，同时又深谙儒家治世要略的书生任湘军将领，又用取保具结方法招募诚朴健壮的山区农民为士兵，以净化昔日绿营的油懒桀骜习气，也便于他将“仁礼”、“忠信”的治军思想一贯到底。其次，他针对绿营将不知兵、不知将的状况，本着统领由他亲自拣任，士兵由什长挑选的逐级自选原则，即“统领自拣营官，营官拣哨官，以次而下，帅不为制”。使“一营之中，指臂相连，弁勇视营、哨，营、哨视统领，统领视大帅，皆如子弟之亲其父兄焉”(曾文正公全集．卷十一．奏稿．光绪二年刊本．83页)。就这样，曾国藩成功地创建了一支具有浓厚封建伦理道德、牢固封建依附关系的私家军队。整个湘军把曾国藩视为全军性命所系，除服从他一人外，不受任何人节制。这一方面提高了部队的战斗力，一方面也为中国近代军队的“兵为将有”和激烈的派系之争开了先例，“老子的队伍才开张……”于是，清军不再直属皇上，一如日后的国民军并不属于民国。难怪有人说湘军是“开发近代军阀武装集团的先河”，而把曾国藩视为“近代中国军阀的鼻祖”(谢本书．袁世凯与北洋军阀．上海人民出版社，1984．6页)。
只是，无论是由这位“鼻祖”统领的湘军，还是步其后创设的淮军，都没能从镇压农民军的战功中清醒过来。终于被武装精良、训练有素的“洋鬼子”击败，如一现之昙花，先于他们所最终效忠的大清帝国而消失在历史长河中。
甲午战争尚在进行之中，清廷有鉴于各路陆军在战争中的表现，已经接受了德籍军官汉纳根的建议，计划加练新军十万。1894年11月，淮军官僚、长芦盐运使胡燏棻募兵近五千人，编为十营，初屯兵天津南面的马厂，试练新军。1895年10月移驻天津东南的小站，号“定武军”。同年12月，两江总督张之洞也在江苏南京编练成十三营两千八百余人的“自强军”。两军编制“专仿德国章程”，聘用德国军官训练。“定武军”创建不久，胡熵棻迁调为卢汉铁路督办，于是清政府改派袁世凯以浙江温处道头衔，到小站接统定武军，并改名为“新建陆军”。这样，“北洋则有新建军，南洋则有自强军，是为创新军之始(清朝续文献通考．(二)．卷二0三．兵二)。
小站原名新农镇，距天津三十多公里，原很荒凉。铁路修筑后，新农镇成为天津到大沽火车站中间的一个小站，便渐渐热闹起来，人们逐渐忘记了“新农镇”，而习惯地称之为“小站”。小站靠近渤海，交通便利，地势开阔，是屯军练兵的理想场所。早先，曾有李鸿章所辖的淮军周武壮部驻扎，仿古屯田法，凿川引水以种禾稻，屯军前后历时二十年。淮军散后，小站的军营便变成了废垒。直到胡燏棻在此训练新军，小站才又为人们所关注。
在小站的近代史上，最显赫的一页，莫过于“袁世凯小站练兵”。直到今天，你若走访小站，老人们还会对你有声有色讲述当年袁世凯训练新兵的壮观场面——大兵们一字排开，一排排地铺展开去，与田野混成一片，操练之声几里外还听得见……
1896年，在小站训练场上，又多了一位年轻军官笔直强健的身影——埋头在威海随营武备学堂任了五年教习的段祺瑞，终于又有幸成了这新建陆军中一名军官。望着眼前由德国最新军事配给装备而成的部队，他内心的激动无法用语言形容。恍惚间，他仿佛又回到了德国柏林陆军学校，不，正在操练的，明明是黄皮肤、黑眼睛的中国同胞，哦，也许又是在梦中吧，梦中那和德军一样正规，一样先进的中国新式军队，那段祺瑞梦想已久的中国新式陆军……他长久地站着，站在小站这片土地上，就如同站在他人生的中转站。
谁又能说，段祺瑞不是在小站这个中转站，搭上中国新式陆军的列车，搭上袁世凯及北洋军阀的列车，开始了他新的人生征程呢？
数十年后，当晚年的段祺瑞回顾他的一生，忆起他自青年从武、中年得志而晚年势衰的曲折经历时，他或许会让思绪在“小站”这个地方多停留一会儿，同时露出一丝微笑——昔日艰辛的创业，此时已化作一份轻松的美好回忆。一旦这思绪走过小站，那份轻松与美好便不复存在，而代之以宦海的险恶、军阀的血腥……
小站，不仅深藏在段祺瑞的记忆中，也深藏在包括袁世凯在内的众多北洋军人的记忆中。这里，不仅仅是他们个人辉煌历史的开端，也是整个北洋集团以及中国近现代史上的“北洋时代”的开端。自袁世凯小站练兵书写下北洋军阀历史上的第一笔后，中国历史便逐渐步入一个军阀割据、军阀争权的混乱时期。直到国民革命军北伐成功，东北易帜，才最终结束了以袁世凯为代表的北洋集团的政治统治时代。
然而，小站留给每个北洋军人的记忆却又是不尽相同的。如果说小站能带给段祺瑞一份年轻人初创事业的美好回忆的话，那么，它带给袁世凯的，则已是宦海争权成功后的狂喜与自得。
相传当清廷任命胡燏棻在小站编练“定武军”时，已在朝鲜先后待了十二年，并靠帮助朝鲜政府编练新军而逐渐出名的袁世凯，便盯住了小站这方宝地。他打听到胡燏棻所以能练定武军十营，皆因其能利用手下干将王修植的敏捷文辞，把英使交来的《应时练兵说帖》加以文字渲染，上奏京师督办军务大臣庆亲王和荣禄。得到荣禄赏识之后，袁世凯便开始四处活动。先是利用北京侯家巷名妓大开宴会，拉拢王修植，讨到王修植代拟奏章的初稿，拿回家去，又忙着早晚朗诵，紧记要点，然后缮正，求荣禄代奏朝廷。荣禄向袁逐条详询，袁亦逐条对答如流。荣禄很是兴奋，以为继胡燏棻之后，又发现了一位促使清廷重整陆军的得力人才，遂把他带到醇亲王和庆亲王跟前。又是一番审核，袁世凯依然对答如流，而且比胡燏棻还能抓住要点，加上胡燏棻是绍兴人，官话不如袁世凯流利，于是，可怜的胡燏棻终于被狡黠的袁世凯夺去了小站练兵的大权(丁中江．北洋军阀史话．第1集．中国友谊出版公司，1992．50页)。
和小站练兵前段祺瑞的简单经历相比，这位虽只比段大六岁的袁世凯，却已有了十多年官场浮沉的复杂阅历。