12日拂晓，段祺瑞下达总攻令。此时，十一师张永成和十二师已组成讨逆军中路，由陈光远任司令，兵分三路展开总攻。东路军八师和十六混成旅自城南经永定门直取天坛；西路军三师自城西占领彰仪门；中路军十一师、十二师占领朝阳门。此时，辫子军因兵力单薄，龟缩在天坛、紫禁城和张勋在南河沿的住宅这三处设防。
东路军进攻天坛比较顺利，辫子军稍作抵抗。经段芝贵许以缴械投降不加追究，并发给三个月军饷的承诺后，大部分辫子军挂起五色旗表示投降。另两路讨逆军也很顺利，分别进逼到东安市场和西华门，残余的辫子军被迫退到南池子张勋住宅一带。
辫子军恃皇城的城坚壁厚进行抵抗，阻挡了讨逆军前进。双方枪林弹雨，一度僵持，但从军事角度来看，当时的情形有些滑稽。《泰晤士报》驻北京记者、中国政府政治顾问乔？厄？莫理循这样描绘当时的战况：
攻击的目标是张勋的公馆，位于皇城内运河的旁边，同我的旧居恰好在一条火线上。射击约自清晨五时开始，一直持续到中午，然后逐渐减弱，断断续续闹到下午三时。我的房子后面那条胡同里，大队士兵层层排列，用机关枪向张勋公馆方面发射成百万发子弹。两地距离约一百五十码，可是当中隔着一道高三十英尺、厚六英尺的皇宫城墙。一发子弹也没有打着城墙，受害者只是两英里外无辜的过路人。双方伤亡人数总共二十五人，多数死于流弹。我猜想，双方互射所发子弹不会少于五千万发。那天没有一只鸟能够安全越过北京上空，所有的枪几乎全是朝天发射的〔清末民初政情内幕(下)．知识出版社，1986．680页〕。
因辫子军恃城墙顽抗，进攻张宅的部队请示拟将皇城凿洞设置炮位，轰击张宅。段祺瑞准许了这个请求，但指示：“对张宅炮击，意在恫吓他逃去，不可过多的实弹轰击。”在东华门南段架炮轰击张宅确实起了效果，立刻引起了张宅里的一片混乱。
战斗进行时，京师警察总监吴炳湘奉劝张勋部停止抵抗，并联系了荷兰使馆汽车接张勋暂避使馆，并要求讨逆军停止射击。张勋虽面临困境仍不肯上车，最后由其部下和几个外国人强行将他架上汽车。插着荷兰国旗的汽车驶离张宅后，讨逆军停止进攻，残余的辫子军全部缴械，讨逆战争结束了。
讨逆军的成功首先归结于复辟活动的不得人心，也有段祺瑞智取的精明之处。段祺瑞让叶恭绰积极活动，使京奉、京汉、津浦各路局将机车和客货车集中在天津一带，不让辫子军使用。为防辫子军北上增援，段祺瑞还特意任命倪嗣冲为皖晋豫三省联军总司令，并派徐树铮去蚌埠，从背后牵制辫子军后方；另派曾毓隽去济南，督促山东督军张怀芝割断徐州与北京之间辫子军的调动。张勋北上只带了十个营，因得不到增援大大减弱了张勋部队的战斗力。另外，旧官场的见风使舵传统也是张勋迅速失败的原因。段祺瑞非常迅速地打出反对复辟旗号，使许多北洋军人打消了对复辟的观望念头，纷纷表示反对复辟，使张勋更加孤立。许多人见复辟没什么希望，便不再支持张勋，连他的部下也如此。这里有一个颇具戏剧性的故事，张勋从徐州北上时，曾招呼其部下张文生在徐州好好看家，并说好在复辟宣布之后，由张文生调四十营兵力开往北京，支援张勋，约定在电报上只说，“速运花四十盆来京”，以免走漏风声，此电一到，大兵须立即出发。当时，张文生一口答应，表示一定照办，决不误事。当复辟宣布，张勋的电报也发出后，张文生即真的从徐州的花园里取出四十盆各种花卉，派两个副官押运到京交给张勋。张勋一见气得浑身颤抖，连说：“坏了！坏了！这小子也抽我的梯子了！”(有关张文生的片断见闻．安徽文史资料．第7辑)
十二天的复辟闹剧被扑灭了，在讨逆军胜利的同时，段祺瑞也赢得了他一生中最为辉煌的时刻。
1917年7月14日，段祺瑞以“营造共和”的英雄姿态，由天津凯旋北京。失去的大权又重新回到自己的手中。
重新上台的段祺瑞加紧投靠日本帝国主义。1918年5月，他与日本签订《中日军事协定》。据此，日帝不仅可以在中国境内驻兵，还可以指挥中国军队。这一引狼入室的卖国协定，遭到全国人民的强烈反对。同时，他还指使曹汝霖、章宗祥、陆宗舆等亲日派官僚，以各种名目和方式向日本借款。仅1917年8月至1918年9月一年间，借款额即达五亿元，远远超过整个袁世凯统治时期向日本借款的总额。正是这笔巨额的“贿款”，使段祺瑞如虎添翼般地把中国推向了腥风血雨的内战深渊。
段祺瑞这次重新上台，一心要完成他的武力统一中国的美梦，实行皖系军阀的独裁统治。所以他拒绝恢复《旧临时约法》和张勋强迫解散的国会，以孙中山为首的原国民党人逐步看清了段祺瑞的真面目，开展了护法运动。孙中山在广州被选为军政府大元帅，号召各地军民起来讨伐毁法专制的段祺瑞，并成立护法军政府。同时，两广和云贵这西南四省也成为护法基地。这样，南北双方形成了两个政府对峙的局面。
对于西南的政府，段祺瑞毫不客气地提出“武力统一”的口号。他想一手挑起这场南北战争，削平西南的两大军阀陆荣廷和唐继尧，消灭孙中山领导的武装力量。同时，他还想利用这场战争削弱直系，让直系与西南直接作战。而他的皖系坐守北京，等直系被护法军也消耗得差不多时，他再一跃而起，“以皖统直”。可冯国璋亦是个精明之人，熟识段的脾性，更知他此举的目的。绝不能让段的主张占上风。所以，冯国璋提出了“和平统一”的口号。主张南北双方表面上拥有一个共同政府，实际上各行其是，自由做主。他表示自己赞同约法，也不反对国会。同时，还同陆荣廷一直保持着秘密的盟友关系。可以说，段祺瑞炮制的南北战争既是南军与北军的战争，也是北洋军阀内部的直系与皖系的公开分化。所以战争开始后，段祺瑞立即受到了南方各派的反抗，也受到了以冯为首的直系的抵制。可段祺瑞并不在乎这些，因为背后有日本人给他撑腰。日本人为他的武力统一提供了大量的秘密借款。前后一共有8笔。都经西原龟三之手达成，故史称“西原借款”。有了钱，段的腰杆挺得更直了，坚决表示将“武力统一”政策贯彻到底。段先纳四川为囊中之物，接下来便想占领广东。可要征服广州，必先控制湖南。而在湖南战区中，湘、粤、桂三军也统一起来，成立了湘粤桂联军。单单的湖南问题便演变成了南北战争。同时，直系的“长江三督”李纯、王占元、陈光远联名提出“四项意见”，包括停止战争，改组内阁。这无疑是直系向皖系的开炮行动，而皖系的激进派更是以硬对硬，甚至酝酿发动政变对付冯国璋，弄得冯国璋是一夕数惊。战事不断进行，北军在湖南，四川取胜的捷报频传。段祺瑞自以为离拿下西南的日子不远了，又趁机将早预谋好的非法的临时参议院推出场。段想用临时参议院取代国会，成为皖系手中的工具。同时也隐含着“倒冯”的意思。狗急跳墙，“北洋三杰”之“狗”冯国璋也开始反击了。他使北军湘南总司令王汝贤和副司令范国璋这两个直隶老乡认识到不能再为“政客所用”，在激战正酣时，宣布停战议和。段祺瑞闻此事，大惊失色，决定暂避风头，又递上辞呈。惯使以退为进招数的段祺瑞，这样对付过袁世凯、黎元洪，对冯国璋当然更不能例外。退下总理之座后，段可不会闲着。他先和曹锟、张作霖、倪嗣冲建立起联系，而后由他的“灵魂”徐树铮煽动召开天津会议，召集了7省的督军。这是一次主战派的大联合，是皖系对直系的重要反击。这次会议能让军阀坐在一起，共商对南方用兵之计也是因为南军日日逼近，将严重影响北洋集团之整体利益。会议之后，曹锟等10人联名至电冯国璋，要求迅速讨伐西南。在这种逼迫之下，冯也进退失局，大乱章法。他本想早些促成南北议和，可湘军却一心想夺回岳州，所以和谈是根本不可能进行的。手足无措的冯国璋这时才真正体验到这辉煌壮丽的总统府绝不是理想的仙境，其中苦楚，非人能比。在内外压力之下，封曹锟为第一路军总司令，张怀芝为第二路军总司令，段祺瑞为参战督办，段芝贵——段祺瑞的“死党”，为陆军总长。皖系又完全控制了北京政府兵权。这时，冯又走错一步棋，他将参战事务全划给了参战督办，本意是和段划清势力范围，却使段利用这个机构直接发号施令，直接取得外援，紧紧地抓住了军政大权。一切处于被动的冯决定离京“南巡”。实则冯是想回到他的根据地南京，再从长计议。这一切都没有逃过段祺瑞的眼睛，密令倪嗣冲将冯在蚌埠留住，并强制其回京。回京后，冯完全成了第二个黎元洪，他再次向段祺瑞妥协了。下达苦苦回避了几个月的全面讨伐令。十万北军立即杀向南方。可正在这时，鄂东又爆发了主和声浪。由冯玉祥在主和派安排下发出通电，宣布主和，反对战争，谴责段无端发动内战。段祺瑞对此事大为光火，迁怒于冯国璋。认定是冯国璋幕后指使，同时下定决心驱冯下台。可由于兵力此时都集中在讨伐上，他便以“接洽国防”为借口，说动奉军入关，做他驱冯的坚实武力后盾。奉军入关后，各地皖、奉军阀要求拥戴段祺瑞组阁。日本人也推波助澜。主战派15省3特区的督军们在曹锟领衔下，联名通电，请段出山组阁。冯国璋彻底认输了，指天誓日地要与段祺瑞同生死，共患难，请他出任。并自动承认五个条件，给段更大权限。段祺瑞终于又走上前台，出任总理，并组建了一个全新的、地地道道的皖系政客内阁。
段祺瑞再度出山后，更加坚定地进行“武力统一政策”，重新确定了援闽、攻粤、入川的作战计划。这次组阁后，冯国璋和他的直系完全低头了，彻彻底底地臣服于皖系。可曹锟与皖系的矛盾却公开化了。他先不满奉军入关占领了他的地盘，后对于段对他的明升暗降愤慨至极，从此消极以待。并在段的新的作战计划出台时，产生了极大的厌战情绪，和张怀芝一起不愿再战阵前出走。这回，沉寂一时的“长江三督”又活跃起来，与新的主和派联系起来。前线出现将帅公然主和的局面。段祺瑞大为震动，不甘心就此失败。他要反败为胜。于是，段祺瑞开始筹划一个组织，来操纵新国会。虽然他不喜欢国会，可作为“共和”制国家，必须有国会。所以成立一能为皖系利用的新国会未尝不可。再利用新国会选举，“合法”搞掉冯国璋。在段的指使下，徐树铮、王揖唐等人组建了一安福俱乐部，也称安福系。安福系曾被“譬之一家商店，徐树铮是财东，臧荫松是内柜掌柜，王揖唐是外柜掌柜。”由此可见，这是一个地道的拥段为领袖的皖系的政治派别。此时冯国璋也不甘心只做了一年的代总统，而想做正式大总统。他也想靠新国会的选举。可冯玩弄政治的手段远远逊于段。新国会议号开始选举后，徐树铮拟好候选人名单，然后通过威胁利诱，营私舞弊等种种手段，使安福系大获全胜。冯一看这情景，立即向外界宣布不再参加总统竞选。冯国璋要离开政坛，是不是段祺瑞就可登总统宝座呢，那他的总理也是万万不能再当的，否则难平直系的怨愤。至于下野，段并不恐惧。因为除去总理之职，他还可以做他的督办，操纵军权，操纵安福系和国会。所以，他在想好了合适的总统人选——徐世昌后，便同冯国璋摊了牌。一切都如段祺瑞所料在天津督军会议上，一致通过徐世昌为下届总统。而且军事问题风向陡变，又从主和转向主战。就在段祺瑞要发动总攻时，直系军人又在前线大搞动作。吴佩孚——援粤军副总司令主张停战息兵。冯玉祥随之响应。段祺瑞再次召开天津会议商讨对策。可这时的督军们各怀心事，都不愿做先锋，去消耗本系的力量，于是吵吵闹闹不得结果。而曹锟又因张作霖问鼎副总统之职拂袖而去；张作霖也因军费问题同徐树铮闹翻了。而前线更糟。吴佩孚的主和之势越来越强大，对段进行了前所未有的痛骂、攻击。武力统一的政策几近破产。段无奈宣布停战，并通电宣布引退。随后，冯国璋也在国会选举中被否决，徐世昌当选总统。
为了实现武力统一，1917年8月，段祺瑞作了夺取湘、川的部署。他派得力干将傅良佐为湖南督军，任命吴光新为四川查办使，让他们统筹湘、川战事。然而，面对南方军阀组成的湘粤桂联军发动的强大攻势和南下作战的北洋军的内部分裂，傅良佐束手无策。他见大事不好，竟趁着朦朦的夜色，携印登舰，逃之夭夭。段祺瑞一怒之下，将傅免职查办，并令王汝贤以总司令代行湖南督军，妄图挽回败局。可没曾想，王汝贤也是个不争气的草包，他竟步傅之后尘，由长沙退往岳州，湖南被湘粤桂联军占领。四川的战况就更惨了，吴光新的北洋军在重庆被川军包围缴械，吴光新则落荒而逃。
军事上的惨败，使段祺瑞无法在国务总理的位子上再混下去了，在直系军阀的步步进逼下，11月16日，他被迫提出辞呈。代表直系的大总统冯国璋便顺水推舟，于22日予以批准。
但不久，在日本主子的帮助下，在徐树铮等喽罗们的大肆活动下，段祺瑞又准备重新上台了。在徐树铮的煸动下，当年的“督军团”又复活了，且阵营更为壮大，就连当时的直系首领曹锟和奉系首脑张作霖也参加了进来。他们联合发出了请段祺瑞再起组阁的通电，说：“全国安危、国人离合，均系我公一人！”段祺瑞的如此“声威”，吓得国务总理王士珍逃到天津，说什么也不干了。大总统冯国璋也看到段祺瑞“百足之虫，死而不僵”的威胁，因此，他也跑到天津对段祺瑞表示“倚重之殷”与“扶助之雅”，一再要求他出来组阁。然而，段祺瑞却假惺惺地说“无意如此”。直到冯国璋对天发誓，并答应国务院决议总统不得擅改一宇；阁员由总理选择，不必征求总统意见；总统的电报须经国务院核发这三项条件后，段祺瑞才同意组阁。这一下段祺瑞的阴谋又得逞了。
