段祺瑞是这一密谋的当事人，他以陆军总长身份在执刑命令上签字副署，军政执法处就是据此命令对张行刑的。张案发生后，全国舆论大哗，共和党20名参议员在临时参议院提出了《质问政府枪杀武昌起义首领张振武案》，批驳了黎元洪对张的指控，公开为张鸣冤。但由于参议院内部党派分歧，形不成合力，对杀张元凶袁世凯不敢弹劾，而把矛头指向国务院，他们要求袁世凯派国务员出席答复质问。段祺瑞对杀张负有责任，然而这一责任他是对袁世凯负责的，他对袁世凯言听计从，在杀张问题上更没有疑意，所以他在8月23日出席参议院的质问会上，极力维护袁世凯，对杀张百般狡辩。他说张振武威胁了民国的安宁、共和的前途，还编造了张振武带领数百人来京的谎言(实际30多人)，“张振武党羽既多，各国公使馆又近在咫尺，恐稍有迟缓，遗祸非浅。”他还借口说“张振武之罪状，实有碍难宣布之处”“政府以国家为前提，自不能不以临时办法。”但段祺瑞也不得不承认手续“有错误，祺瑞身当其咎”。一部分议员提出对国务总理、陆军总长的弹劾案，认为“副署之国务员段祺瑞辅佐乖谬，”要求按《临时约法》将其免职，“以彰国法，而固国本”。同样，由于参议院内党派分歧，弹劾案未能开议，此案遂不了了之。由张振武案掀起来的一场风波，后来由于孙中山入京调解而告平息。
宋教仁案是袁世凯残杀革命元勋巩固和加强北洋一统统治的重大案件，由此案而引发的二次革命终将南方革命党势力消灭殆尽，北洋一统天下的局面最终确立。段祺瑞以陆军总长身份代理国务总理，更是袁世凯意志的体现者。
宋教仁自退出唐内阁后，就致力于政党建设，将同盟会改组为国民党，以争取在将来的国会大选中获胜，组织清一色的政党内阁，引导中国走上资本主义法制道路。1913年2月，国民党在国会大选中获胜，在参议院、众议院均获多数席位。国会选举的胜利使宋教仁踌躇满志，3月20日由上海登车北上，准备入京组织内阁，竟在车站被人枪杀。不久，凶手被抓，证据公布，国务总理赵秉钧涉嫌提出辞职，袁世凯任命段祺瑞代理总理。
宋案在全国引起了更大的风潮，国民党人怒不可遏，对袁世凯大张挞伐。此案未了，袁世凯又未经国会同意，擅自与五国银行团签定了2500万英镑的善后大借款合同，引起国民党人更加强烈的不满，尤其是江西都督李烈钧、安徽都督柏文蔚、广东都督胡汉民反对更强烈。袁世凯决定以武力消灭国民党，命令段祺瑞部署对南方用兵。北洋内部人说：“段祺瑞代总理，除国务会议外不到院(有时会议也不到)。闻之参谋次长陈宦言：‘总理每日在居仁堂西偏小楼上处分军事。’”时任国务院秘书长的张国淦曾向袁世凯提出建议，“若专靠武力，总不能解决问题，何不从政治方面求一永久妥洽办法，民党未始不合作”。袁听了很不高兴，对张国淦说：“你可向总理说明，于国务会议时提出讨论”。当张在国务会议上向段祺瑞提出这一建议时，立即遭到了段的呵斥，“军事非你文人所知，不应干预”。由此可见，袁世凯、段祺瑞在对南方用兵方面是完全一致的。早在5月初，即段祺瑞代理总理后，就与袁世凯召开了几次秘密军事会议，部署对南方用兵。其总方略为：“有攻击南方敌军任务之北军，第一期对湘、赣、皖、苏作战，利用京汉、津浦两路线集中”。6月，袁世凯作好了发动战争的一切准备后，先后将江西都督李烈钧、安徽都督柏文蔚、广东都督胡汉民免职，接着派北洋军南下。国民党人被迫应战。7月12日，李烈钧在湖口誓师讨袁，二次革命爆发。由于国民党人准备不足，仓促应战，很快失败。孙中山、黄兴等逃亡海外，再次过上了流亡的生活。
二次革命使国民党人在南方的军事力量完全被消灭，北洋势力从此由北方扩展至南方、长江中下游各省。二次革命后，袁世凯在军事上达到了全盛时期。段祺瑞以陆军总长代理国务总理，为袁世凯运筹帷幄，是袁世凯消灭国民党人军事力量的主要助手或者说直接指挥者。
袁世凯在战胜国民党人后不久，胁迫国会选举他为正式大总统，结束了临时政府时代，标志着以他为首的北洋统治的稳固确立，国内无任何势力与之匹敌。袁世凯仍不放心，他不允许任何非北洋势力的坐大，尽管这些势力在二次革命中也支持了袁世凯。云南都督蔡锷、湖北都督黎元洪是他集中考虑的目标。蔡锷在二次革命后不久卸任滇督，入京在袁世凯身边工作，使袁世凯减少了对西南的疑虑。湖北都督黎元洪则是袁世凯派段祺瑞采取特别的手段请到北京的。
黎元洪是介于袁世凯北洋势力和国民党之间的一种力量，在重大问题上倾向北洋。有时袁、黎互相利用，以对付革命党人，如前述张振武案。二次革命前，为利用黎元洪打击国民党，袁世凯亲笔书下“民国柱石”四个大字，制成横匾，派人送到武昌。黎元洪被国会选举为副总统后，他又亲笔写下“中华民国副总统府”八个字，制成长匾，挂在湖北都督府的大门外。这都是表面文章，实际上他对黎元洪坐镇武昌，手握重兵，扼南北要冲，制东西航道的战略地位心存疑虑，黎元洪又有武昌首义的声誉，在政治上有一定的号召力，如哪一天反目，后果实难预测。所以他很早就想把黎元洪调出湖北，而让其部下居其要害，怎奈黎元洪知道自己湖北都督的分量，牢牢坚守，无论袁怎么诱惑，黎元洪始终不离武昌一步。袁世凯放心不下，1913年12月，终于想出了一条妙计，派段祺瑞到武汉去请黎元洪。段祺瑞到湖北后，遵照袁的旨意，与黎元洪密切商量军政大事。黎也对段盛情款待。待段祺瑞完成使命，北上登车复命时，却发生了黎元洪连做梦也想不到的事情。当年随段祺瑞一起去湖北的曾毓隽后来较完整地记述了这一过程。他在《六十年之回顾》中说：“癸丑一役结束，由是有迎黎之举。是年(民二)十二月，袁派段祺瑞到鄂，余(曾自谓)亦随行，下车遂渡江谒黎，在副总统府两宿。黎召其秘书长金永炎，商整理军政事，大致就绪，宣布段北归。黎送过江，到车站上车后，段反下车，黎随北上。金偕段返署，发电告袁，而段署湖北都督之令下矣”。袁世凯、段祺瑞以此手段将黎骗至北京，让其做有名无实的副总统。由于段祺瑞为袁世凯身边最得力的干将和助手，不能长期在外，两个月后，袁将其调回北京，复任陆军总长，任命另一干将段芝贵为湖北都督。从此，整个长江流域为北洋势力所充斥。
段祺瑞为袁世凯的第一心腹大将，无论有什么重大事情都派他出马解决，请黎元洪入京是如此，镇压白朗起义也是如此。白朗是河南宝丰人，1912年末率数百名农民在鲁山、舞阳、宝丰一带起义，打富济贫，迅速发展到豫、鄂、皖三省交界各县，给袁世凯的统治造成了极大的威胁。1914年初，袁世凯将镇压起义不力的河南都督张镇芳撤职，改派陆军总长段祺瑞兼任。段祺瑞调集北洋军和三省地方部队共3万多人，对白朗起义军进行围剿。白朗军采取流动作战的方针，使段的围剿计划流产。北洋军连连败北，大损声威，袁世凯不得不将段祺瑞调回北京。这年8月，白朗在鲁山县与北洋军张敬尧部作战时不幸阵亡，起义失败。
由上清晰地看出，段祺瑞作为袁世凯的心腹大将，在民初打击、消灭革命民主力量，确立北洋一统天下的过程中，几乎无役不与，他对袁世凯忠心耿耿，是袁世凯最主要的帮手。正如段祺瑞自己后来所说：“除了帝制以外，项城办事没有不赞成的。”
袁世凯是一个极端专制主义者，他和段祺瑞等北洋袍泽共同努力，凭借雄厚的北洋兵力，在扫除了一切民主势力和异己力量，并确立了以袁世凯为首的稳固的北洋军阀专制统治后，开始对付身边的权臣。袁世凯第一个开刀的对象就是段祺瑞。所以，袁、段关系达到高峰之时，也是开始出现裂痕之际。
袁世凯手下有三员心腹大将，即号称北洋三杰的王士珍、段祺瑞、冯国璋。王士珍无权利思想，民国后长期隐居在家。冯国璋长期任江苏都督，坐镇东南。只有段祺瑞一直在袁世凯的身边，在历届内阁中任陆军总长，掌握着中央军权。而且段祺瑞性格刚烈，事有主见，不是俯首帖耳的奴才。随着时间的推移，段祺瑞在北洋内部，以其学生靳云鹏、徐树铮等为中心，自成一系。正如袁世凯身边的亲信夏寿康所说：“段祺瑞素性刚愎，有主见，平时对项城不事趋承。长陆军时，关于军官进退，恒以陆军总长行之，不请示；其所识拔者，多半为其学生部属，隐然成一势力，在北洋旧部与段比肩者，此时将顺不遑。于是项城渐渐感觉段之专擅，而大公子尤忌之，以其怏怏非少主臣也。”段祺瑞还有一个特点，即和袁世凯等人商讨军事时，如意见不被采纳，不高兴的样子就马上表现出来。对袁世凯长子袁克定插身军队的企图，他十分反感，不假辞色。
袁世凯依靠军队起家，他视军权如命，决不允许军权旁落，更不允许身边出现段祺瑞这样的权臣。他和其日本军事顾问坂西利八郎以及王士珍等共同策划削弱段祺瑞的兵权。1914年5月8日，袁世凯下令撤销总统府军事处，设立陆海军大元帅办事处，委派其侍从武官荫昌、陆军总长段祺瑞、海军总长刘冠雄、海军司令萨镇冰、参谋次长陈宦以及王士珍等为办事员，由王士珍主持常务，各办事员轮流值班，一切军政要务，均须办事员呈报袁世凯定夺，段祺瑞的军权被大大削弱了。段祺瑞敏锐地觉察到袁世凯的意图，因此开始消极对待，经常寻找借口不参加统帅办事处的会议，即陆军部事务也全部交给次长徐树铮处理。一天，袁世凯召段祺瑞到总统府查问一件公事，段答：“要到部查。”袁世凯不客气地说：“你的呈文都送来了，怎么还要到部查呢？”原来段祺瑞根本没有看过这件公文，而是次长代他签名送上来的。袁为此大发牢骚说：“咱们北洋团体还成一个什么样子的团体了，华甫(冯国璋字)要睡到十二点钟以后才起床，芝泉(段祺瑞字)老不到部！”
袁世凯在清末以练兵起家，军队由其直接掌握，他感到得心顺手。当上大总统后，一方面是政治、经济等事务使之分心，一方面是军队不归自己直接掌握，且分布全国，将帅林立，大有尾大不掉的势头。袁世凯决不允许这种局面的出现，他要把军权牢牢地掌握在自己的手里，于是他准备对北洋军进行改造。他看到蔡锷是一个长于练兵的人才，就想让蔡锷主持其事。他计划先派蔡锷为参谋总长，以取代从不到部的黎元洪，继而调任为陆军总长，以取代不好使唤的段祺瑞。这个计划蔡锷是预闻的，并且是同意过的，但后来因北洋内部的不一致而作罢。不久，保定军校校长蒋方震建议袁世凯练模范军，袁世凯借机抛开陆军部，培育绝对效忠于自己的军队。
模范军建制为一个团，从北洋军各师中抽调优秀下级军官为士兵，以中上级军官为下级军官，培训半年后分配到各师充当军官，以此来控制整个北洋军。模范团共培育了两期，第一期袁世凯准备让儿子袁克定当团长，在征求段祺瑞的意见时却被段否决。袁世凯只好自己兼团长，以陈光远为副团长，营连长均为中、少将级军官。第二期袁世凯不再征求段的意见了，直接任命袁克定为团长，陆锦为团副。而陈光远、陆锦是紧跟袁克定的，所以模范团始终掌握在袁克定手里。袁世凯一生很少任用亲属，这一次任用儿子袁克定也是例外。这是袁世凯称帝、建立袁氏王朝的前奏。段祺瑞宠信徐树铮，而袁世凯对徐树铮则非常反感，曾想把徐树铮调出陆军部。段祺瑞当面顶撞袁世凯说：“请总统先免我的职，随后要怎么办就怎么办！”袁、段矛盾已达到不可调和的地步。袁世凯经常关切地对段祺瑞说：“你气色不好，想是有病，应当休息休息”，实际是逼段辞职。
在重大国事问题上，袁、段也产生了严重的分歧。1915年初，日本提出灭亡中国的“二十一条”，5月7日向中国发出最后通牒，限48小时内答复。次日，袁世凯召集有关人员讨论此事，大多数人主张对日妥协，接受日本的要求，“惟独段祺瑞主张动员军队，对日示以强硬”。最后袁世凯说：“我国国力未充，目前尚难以兵戎相见”，从而轻易地否定了段祺瑞的意见。袁世凯此时正欲称帝而取得日本的支持，所以段的意见是不符合袁的口味的。段祺瑞的意见虽被否决，但段的个性特点是敢言敢做事，所以继续发表他的主战意见，直到辞职不干。袁世凯身边的亲信张一麟曾说：“(段)以反对帝制，为袁克定所谮，不自安。假五月九日日约签字事，通电主战。世凯笑曰：‘芝泉老友，去则去耳，何必出此恶声哉。’遂称病求去。”
段祺瑞与袁世凯的矛盾不可调和，不得不以病由向袁辞职，并赴西山养病。这也正是袁世凯所希望的，不过袁世凯很会做戏，对段祺瑞执意挽留，一再给段假期。5月31日，袁世凯下令王士珍署理陆军总长，并发表明令赐段人参、药费等，“本大总统为国爱惜人才，未便听其过劳致增病势，特着给假两个月，并颁给人参四两，医药费五千元，以资摄卫”。直到8月29日，袁世凯才明令解除段祺瑞的陆军总长职务，正式派王士珍继任。
从表面上看，袁世凯对段祺瑞还是十分客气的，实际上这是封建统治者惯用的一套手法，袁世凯更是发扬光大。但此时袁世凯对段祺瑞越是客气，外间越是传闻袁、段即将决裂。8月3日，段祺瑞为此特意公开发表辟谣电报。他说：“二十年前，大总统在小站练兵时，祺瑞以武备学生充下级武秩，与大总统素无关系，乃承采及虚声，立委为炮队统带，升任统制；及大总统东山再起，祺瑞复见任湖广总督、陆军总长等职。以大总统知祺瑞之深，信祺瑞之坚，遇祺瑞之厚，殆无可加，是以感恩知已，分虽部下，情逾骨肉。近数年来，祺瑞因吐血失眠，吁请息肩。乃包藏祸心之某国报纸，以挑拨离间之诡计，直欲诬祺瑞为忘恩负义之徒，甚至伪造被人行刺之谣，更属毫无影响。不得不略表心迹，以息讹言。”段祺瑞电文之前半部分，说的是真情实话，说明了以前袁、段关系之密切。后半部分，则说的是违心话，这说明袁、段关系之恶化，已不再是什么秘密了，甚至还有外国报纸在插手。
