袁世凯的长子袁克定在这件事上特别积极，希望能当上这个模范团的团长。袁世凯也有心扶植自己的儿子，可这件事遭到了段祺瑞的强烈反对。一次，袁就此事征求段的意见时，段坚持自己的反对意见，谈了半天没有结果。最后，袁世凯只得说：“你看我行不行呢？”这样一来，段祺瑞无话可说了，于是模范团的团长就由袁世凯自兼。段祺瑞口头上虽然说不出什么，可心里直生暗气。
袁世凯自兼模范团团长，但到第二期时，就转给袁克定当了团长。
模范团的事，加深了袁氏父子与段祺瑞的矛盾，但真正促使袁、段二人公开分裂的，是袁世凯的复辟帝制行为。
袁世凯想黄袍加身究竟起于何时，谁也说不清楚。原因是早就有人“劝进”，袁世凯曾“义正词严”地多次拒绝，到后来却又忽然一下子弄假成真。人们不知道这位翻云覆雨的枭雄什么时候说的是真话，什么时候说的是假话，天晓得他什么时候开始动的这个念头。
1912年3月，袁世凯做了临时大总统不久，社会上就谣传他要做皇帝。6月25日，他通电辟谣：“当共和宣布之日，即经通告天下，谓当永远不使君主政体再见于中国。”这个时候，清帝刚刚退位，袁世凯正集中精力与革命党人争权夺势，他不可能有精力去考虑帝制问题，因而他多次宣言拥护共和政体，否认帝制活动。不过，向袁世凯劝进的丑事还是不断发生，袁世凯曾下令对劝进者查拿惩治。
1913年3月，湖北商人裘平治等人上袁世凯书，劝袁当皇帝，“改帝国立宪，缓图共和”。袁世凯发布命令宣称：“共和为最良之政体，本人总统受国民付托之重，就职宣誓，永不使帝制再见于中国。”他还命令湖北民政长严行查拿裘平治等人，“按律惩治”。当然，后来也没有人去认真“查拿”，自然也没有人受到惩治。
等到镇压了国民党人的“二次革命”，剿灭了白朗军，袁世凯的天下基本平稳以后，袁世凯便向帝制目标一步步走去。
袁世凯称帝的事，他的大儿子袁克定最热心，并一直在幕后用尽心机，推波助澜，希望自己快些当上皇太子，以便日后继承袁氏江山。
段祺瑞的原配夫人是吴夫人，也就是吴光新的姐姐，生了一儿一女后故去了。后来，袁世凯把自己的义女张佩蘅嫁给了段祺瑞。段夫人脾气很好，人也正派，她念及袁家的养育之恩，对义父一家非常感激，像对待亲娘家人一样亲密无间。段祺瑞并不以袁世凯的干女婿自居，他从不用这拉关系、套交情。而袁克定认为有这层关系，段祺瑞怎么也得给个面子，就派阮忠枢去试探段祺瑞对帝制的态度，希望他能通力合作，拥立袁世凯当皇帝。殊不知，段祺瑞没等阮忠枢说完，便沉下脸来说：“你休再胡说！”
阮忠枢是袁世凯的副秘书长，和段祺瑞也是知己好友，这才被袁克定派去试探段祺瑞，没想到碰了个大钉子。这件事使袁克定大为光火，他和几个亲信密谋后得出结论，要使老袁称帝，必须先将段祺瑞排挤掉。此后，他们几个就在袁世凯面前对段祺瑞吹毛求疵，暗设陷阱。日月如梭，生性好疑的袁世凯对段祺瑞的忠诚更加怀疑了。
1915年，帝制活动开始紧锣密鼓。
日本趁袁世凯欲行帝制，于1月18日向中国提出了“二十一条”，希望以此作为支持袁世凯称帝的条件，强化在中国的侵略权益。
袁世凯准备接受，以换取日本对他称帝的支持，他的部下则提出反对意见。
冯国璋不甘缄默，率十九省军人通电中央，表示：“凡欲破坏吾国领土之完全者，吾辈军人必以死力拒之。”
段祺瑞更是竭力主张对日强硬，他个人发电宣言，表示不惜与日本付诸一战。
类似的情景已经出现过一次。早在第一次世界大战爆发之初，1914年8月，日本出兵山东，进攻青岛，并擅闯中立区，进入山东腹地。袁世凯畏惧日本的军事优势，不愿与日人对抗，段祺瑞的部下徐树铮和靳云鹏，利用北洋军换防的机会，私下向青岛的德军运送了一列车军火，使德军有所加强。事后，段祺瑞曾表示他们办得很对，并无半点指责。
这次日本人得寸进尺，提出欲灭亡中国的“二十一条”。“二十一条”共分五号，主要内容是，要求继承德国在山东的全部权益，扩大在东北和蒙古地区的经济特权，还要求中国沿海港湾不能租给他国。其中最过分的是第五号之七条要求，要中国政府聘用日本人做政治、财经、军事顾问，中国警政和兵工厂由中日合办，中国腹地的几条重要铁路和矿山日本享有投资优先权，等等。
日本提出这些条件与袁世凯谈判后，袁世凯曾召开高级官员会议商讨对策。会上，大家都知道这个乱子是袁世凯为搞帝制自己给捅出来的，让日本人趁火打劫，因此一片沉默。
只有段祺瑞站起来发言，打破了平静：“像这样苛刻的条件，我们不能承认。如果迁就日本，承认它，今后各国纷纷效法，中国将无法应付，因此，我们应持宁为玉碎，不为瓦全的态度，宁肯与日本对抗，也不退让。”
中日秘密交涉期间，其内容由外国报刊披露，迅速传回国内，全国舆论大哗，举国民情鼎沸。大家都认为亡国惨祸已迫在眉睫，人们奔走呼号，以挽救民族之危亡。有人刺血上书，断指演说；有人毁家纾难，献金救国；有人组织民团，抵制日货。在全国人民的抗议浪潮中，袁世凯也不得不表态：“所有议约事件，誓当国争，决不轻易承诺。”
5月7日，日本提出最后通牒，限中国四十八小时内答复。两天后，在袁世凯的坚持下，中国没有采取强硬立场，提出除第五号内容“容日后协商”外，其余均表示接受。
段祺瑞和许多人一样，明白袁世凯不惜冒天下之大不韪，对日本人委曲求全，无非是以国家和民族利益换取他黄袍加身。一天，段祺瑞召集自己的亲信部下曾毓隽、徐树铮等人开会，他在会上慷慨激昂地说：“大总统帝制自为的迹象近来已渐渐趋于明朗。想当年，我曾领衔发过主张共和的通电，如今若拥他登基称帝，取消共和，国人将把我看成什么东西？这种出尔反尔的事情，我是决不能干的，只怕是在一部二十四史里面，也找不出像这样反反复复的人物。所以大总统称帝一事，论公，我宁死也不参与；论私，我只有退休，不再多发一言！”
帝制派的人物，此时四处放风，袁克定曾说：“我们中国受日本之侮而不能抵抗，纯粹是由于我国陆军强不起来的缘故。而我国陆军不强，陆军总长在其位不谋其政，难推卸其责任。”
5月31日，五十一岁的段祺瑞称病请辞。
8月，袁世凯正式解除了段祺瑞陆军总长的职务。
护国战争爆发后不久，袁世凯预感事情不妙，当时就有心请段祺瑞出来帮他主持军事，段祺瑞以“宿病未愈”婉言拒绝。
1916年3月，眼看洪宪帝制即将破产，袁世凯迫不得已再次请段祺瑞出山，好说歹说，段祺瑞才表态，只要袁世凯答应取消帝制，他才肯出来帮忙。
这时的袁世凯，急如热锅上的蚂蚁。
3月21日，新华宫里的承宣厅派人给段祺瑞专差送到一封密函，请他在当天下午参加公府会议，信中还附上一笔：“奉大总统面谕，请看在数十年老交情的份上，务必准时发驾！”
在此前一天，老袁还让于夫人打电话给段公馆里的张夫人，告诉张夫人，总统现在有困难，务必请芝泉帮忙。
事情到这份上，段祺瑞也不好推辞了。21日下午，他按时到公府开会。
会议很简单，老袁说明当前局势及他要取消帝制的理由，接下来请大家讨论。徐世昌表态说：“大总统不吝改过，众所共仰，我看，这件事不用讨论了。”
忧心忡忡、神色不安的袁世凯，仍不安心，他眼望着段祺瑞说：“你们一定要帮我的忙啊！”
终究是跟随二十多年的老主子了，此情此景，段祺瑞觉得老袁很可怜，毕竟他已表态要取消帝制了，照理说，他们之间的矛盾应该算是解决了。段祺瑞站了起来，“大总统尚肯取消帝制，从今以后，善后事宜，自当努力为之”。
袁世凯开始宽心了。他知道段祺瑞当众一表态，就一定会负责到底。随后大家讨论了撤销帝制令，第二天通令全国，取消帝制。
从1915年12月袁世凯承认帝制，到1916年3月22日通令全国取消帝制，老袁做了几个月的短命洪宪皇帝。从1915年5月31日段祺瑞称病离职，至1916年3月23日东山再起任参谋总长，闲居了近九个月。这以后，段祺瑞主军事，徐世昌出任国务卿主政治，北洋派又似乎团结起来，准备共同收拾国内分裂的局面了。
但是，事情远非袁世凯想的那么简单。国内反袁的愤怒浪潮并不因老袁取消帝制而趋缓，全国各地一致要求老袁下台，老袁还想赖在大总统位置上看来是难上加难。
段祺瑞等人把主要精力放在与南方反袁势力的谈判上。南方对袁世凯不依不饶，要求袁世凯一定要下台。袁世凯极力挣扎，声称“帝制取消，公等目的达到”，死抓住总统宝座不放。与此同时，袁世凯并没有把权力下放，他仍控制实权不肯放手。徐世昌对此局势无可奈何，只得于4月21日辞职，这时他当国务卿仅一个月。
任国务总理兼陆军总长时的段祺瑞
老袁此时便提出段祺瑞接任国务卿。在老袁看来，段祺瑞有实力，与西南方面的蔡锷又有联系，在解决时局方面比徐世昌有利。而且，一旦与南方谈判破裂，老袁还希望段祺瑞率北洋军再次为他卖力。
段祺瑞很痛快地答应下来，但提出一个条件：必须实行责任内阁制。他解释说：不实行责任内阁制，与西南方面的谈判难以进行，西南将认为那是总统的御用机关。而他的潜台词是，要我干，必须要有实权。袁世凯没别的办法，只得答应。
4月22日，袁世凯任命段祺瑞为国务卿，并发通电宣布采用责任内阁制。
段祺瑞自兼陆军总长，外交总长是陆徵祥，内务总长王揖唐，财政总长孙宝崎，海军总长刘冠雄，司法总长章宗祥，教育总长张国淦，农商总长金邦平，交通总长曹汝霖。
段祺瑞主持责任内阁，与南方谈判是代袁世凯受罪，日子很不好过。老袁不断施展手腕不肯放实权，使段祺瑞曾又赌气辞职。南方毫不妥协，全国民情澎湃，老袁赖着不想下台，局势在僵持中。
5月下旬，局势出现了重大变化。
袁世凯的两员爱将，四川督军陈宦、湖南督军汤芗铭，再加上陕西督军陈树藩，相继发表通电，对袁世凯反戈一击，当时人称这三人是“二陈汤”，说是“二陈汤”要了老袁的命。还有人为此写出一对妙联：“起病六君子，送命二陈汤”，说是热心帮助袁世凯复辟帝制的所谓“筹安会”六君子让老袁中了病，终由二陈和汤三人给老袁送了终。
陈宦宣布与老袁脱离关系，“代表川人，与项城告绝”。陈树藩宣布独立；汤芗铭竟然不惜与老袁“以干戈相见”。老袁看到自己的宠将纷纷背叛，受到的刺激太大了，悲叹：“人心大变，事不可为了。”终于在5月22日病倒。
袁世凯得的是尿毒症，每次饭后，腹部必起剧痛，逐日加重，请中西医诊治均不见成效。
老袁病危之际，自知即将不起，命人十万火急请段祺瑞、徐世昌等人深夜赶往公府。
段祺瑞乘汽车赶到怀仁堂。车刚停在怀仁堂东边，段祺瑞就看到大家神色紧张地聚在一起，议论着袁世凯的病情：
“总统怎么样了？”
“听说还是发烧，心里起急。”
“打紧板了，一时不如一时，恐怕好不了！”
段祺瑞、徐世昌、王士珍、张镇芳等人围在袁世凯病榻前。老袁环顾各人，神情惨淡，用低得几乎听不见的声音说：“我……我已经不中用了。”
段祺瑞安慰道：“总统不必心焦，静养几天会好起来的。”
袁世凯合上眼，半天没出声，过了一会儿，他又睁开眼睛，费力地说：“今后，就全靠你们了……”之后，袁世凯便陷入昏迷状态，医生只好劝大家离开。
过了好一会儿，段祺瑞才从屋里出来，只见他脸色阴暗，显得非常沉痛。他和袁世凯自打小站练兵，二十多年的交往，一直是袁世凯的忠实干将，只是在民国以后开始有了距离，袁搞帝制两人才闹僵。现在老袁病危，段祺瑞把袁世凯对自己的恩惠全都想了起来，没有袁世凯，他段祺瑞也不会有今天的飞黄腾达。
1916年6月6日10时，袁世凯怀着几分惆怅，几分不甘，永远地告别了历史舞台。
段祺瑞受传统忠义思想的影响很浓厚，一直忠于袁世凯，尽管后来他反对袁世凯称帝，也只用口不用兵。袁世凯死后，他把两人的怨恨一笔勾销。
袁世凯死后，段祺瑞手握实权却并未登上总统宝座，这正是段的奸猾之处。首先从法律依据上说，无论是《新约法》，还是《旧约法》，最合乎条件的都就是副总统黎元洪。更何况北洋军中有些人(特别是冯国璋)，早就对总统之位虎视眈耽了。如果自己贸然登上总统之位，势必不能服众。所以权衡再三，为了北洋军的团结，也迫于护国军的压力，段毅然决然让生性软弱的黎元洪做了大总统，自己只做了总理。
其实在段眼中，大总统职位本来就是他的。黎元洪是他一手“提拔”的。黎只不过是他手中的一颗棋子，一个傀儡，一个盖印机器，一个传话筒而已。他所做的总理是“太上总理”。于是在段的安排下，黎元洪“悄悄”地举行了一个极其简单的就职仪式。事后，好多公民才知道还有这么个仪式。从此黎又像在辛亥革命中被推为鄂军大都督一样，再次成为一个政治傀儡，只不过操纵者换成了享有“再造共和”之誉的段祺瑞和北洋系。北洋系也由总统独裁的时期进入了总理独裁时代。
然而，段祺瑞没想到，他从没瞧得起的黎元洪坐上总统宝座之后，竟然真的拉起总统的架势过问起军国大事来了。当段祺瑞提出安排徐树铮当国务院秘书长时，一向优柔寡断、言语“温和”的黎元洪，竟比当年的袁世凯还厉害，他满脸怒气地说：“我总统可以不作，绝对不能与徐树铮共事！”还说：“一万件事我都依你，只有这一件办不到！”把段祺瑞气的鼻子一歪，袖子一甩，扬长而去，之后，他竟当着自己手下人的面，指名道姓地骂道：“我是叫他来签字盖印的，不是叫他压在我头上的！”就这样，他与黎元洪之间的府(总统府)院(国务院)之争便开始了。
自就任以来，段祺瑞和黎元洪之间的矛盾一直在不断升级。先是段从不以总理身份见黎，凡事皆由国务院秘书长徐树铮代往。而徐目空一切，骄横跋扈的作风令黎不堪忍受。因此，黎怨从心生。随后是黎要求执掌兵权。段祺瑞崇尚的就是强权，既然想操纵黎，当然不会给他一兵一卒。黎的手下丁世峄便为黎提出了《府院办事手续草案》，想借此限制段的权力，而扩大黎的总统实权。这一招令段非常生气。总之，很多方面的问题都使黎、段的矛盾在不断激化。可段祺瑞还不想和黎的关系弄得太僵，所以做出过一定让步。于是，正面的交锋便在内阁中的孙洪伊和徐树铮间展开了。