卢永祥盘踞浙江，却始终牢牢把持着上海不放手，因为上海可是当时中国第一大城市，他的经济几乎可以相当于半个中国。谁都不愿意扔掉这么个香饽饽。卢永祥原来就是淞沪镇守使，直接管辖上海，后来他升了官，调升浙江督军，临走前突击任命部将何丰林为淞沪镇守使，这样他即使人在浙江，上海的一切却尽在掌握。但是上海当时在行政上是属于江苏的，这就惹恼了另一个人。
但是匹夫无罪，怀璧其罪。卢永祥占据上海，却让一个人如骨鲠在喉，欲除之而后快，那就是江苏督军齐燮元。当时的上海还划归江苏管辖，但他作为江苏督军，竟然不能控制上海，总觉得自己这个督军做得是名不副实。
更让齐燮元耿耿于怀的就是上海的税收。上海是全国第一大经济中心，每年的税收那可是一大笔，再加上上海还是全国烟土买卖的中心。当时外国人在上海从事烟土买卖的不在少数，据说光是印度一个地方运来的烟土税收就足以养活三个师。而他卢永祥不仅收税，还自己直接派人去外国贩来烟土销售牟利。这两项收入之丰厚，让他垂涎欲滴。如果自己得到上海，至少军饷就不用再发愁了。
1924年5月，段祺瑞收买曹锟的译电员，抄出了吴佩孚致曹锟的密电。
吴佩孚在密电里，主张以鄂、赣、苏、闽几省的兵力，围攻浙江、上海，由江苏齐燮元和福建孙传芳主持其事。段祺瑞派人把密电原文送交卢永祥，一再叮嘱他早做准备，卢永祥随即派邓汉祥前往奉天联络，以求得张作霖的支持，张作霖的态度却显得不那么坚决，犹犹豫豫，不肯答应！
现在的形势是有外援要打，没有外援也要打，妥协是不可能的。卢永祥知道这一点，于是他对手下军官们隐瞒了张作霖的态度，只是告诉他们，张作霖态度坚决，准备与浙江军人共进退，终于鼓舞起了军官们的士气！
第二次直奉战争
张作霖虽然犹豫，但军人的本能告诉他不能贻误战机。他一直在秘密派人监视北京的吴佩孚动向，一举一动做到了如指掌，以便自己做出个正确的形势判断。
经过多次接洽试探，吴佩孚最终确定卢永祥不会投向自己。彻底失望的吴佩孚决定兴兵讨伐，命令江苏齐燮元、福建孙传芳夹攻浙江和上海。唇亡齿寒，一旦卢永祥失利，直系势力将更加猖獗，到时候自己恐怕是独木难支。张作霖终于想通了中间的利害关系，立即通电帮助卢永祥，准备分兵进关。孙中山也发表宣言，率领军队北上支援。段祺瑞也积极联络冯玉祥。反直三角同盟再次组建，并且这次注定不会再犯同样的错误。
齐燮元与卢永祥开打，双方互有胜负。最初凭借装备精良，卢永祥颇占优势，很有一举拿下江苏的气势。但是很快江苏与浙江两省的战争扩大为五个省，安徽、福建、江西三地的军队都加入进来，变成了“四英战吕布”。
可怜吕布再勇，也吃不消这车轮战。9月17日，福建孙传芳军队进入浙江，占领了衢州，使浙卢后方受到威胁。孙传芳、齐燮元以钳形攻势令卢腹背受敌。眼看形势十分紧张，而奉系军队远在北方，远水不救近火。卢永祥看到大势已去，长叹一声，通电下野，与自己的忠实部下何丰林一同赴日本“考察”去了。
战事结束，挑起战争的齐燮元除损兵折将、劳民伤财外，什么好处都没得到，而孙传芳不但拿到了浙江地盘，还在卢永祥下野后，以战胜者的身份收编了约5个师的人马，齐燮元空欢喜了一场。
卢永祥兵败下野，但他的失败却为张作霖赢得了天赐良机。就在9月17日孙传芳围困卢永祥那一天，张作霖向吴佩孚宣战，第二次直奉战争爆发。
一直志得意满的吴佩孚根本没有料到，现在的张作霖早已非昔日吴下阿蒙。上次失败后，张作霖退回关外，苦练新兵，甚至还在日本的支持下，组建了两个新的军种——海军和空军。海军练兵时间较短，还没有形成像样的战斗力，但是空军那花大价钱购买的40架最新式的飞机却是相当有威胁。吴佩孚还是以轻蔑的态度对待奉军，满以为自己只要再次拿起法宝，张作霖就会面临第二次失败。但没想到，这次战争与第一次相比，完全倒了个个儿。刚一交战，直系军便损兵折将，奉系军队一个团突破了城门，攻进了关内。情况紧急，吴佩孚不得不亲临前线指挥。
按照双方的战斗力比较，吴佩孚练兵较严格，士兵战斗力强，而且吴本人善于战场指挥。但奉军武器更先进，装备更完善，尤其是飞机助阵，时不时飞到作战区域上空猛扔炸弹，吴佩孚的军队哪见过这阵势，完全不知道怎么应付，一下子乱了阵脚。双方实力比较接近，所以如果继续较量下去，最终谁胜谁负还难以预料。就在这最为关键的时候，吴佩孚听到了一个消息。
这个消息他无法接受，更不愿意相信。但事实告诉他，那是千真万确的：冯玉祥兵变了！
冯玉祥为什么兵变？起因并不复杂，还是因为吴佩孚。吴佩孚向来看不惯冯玉祥的作风，因为他似乎处处站在道德高地，行事很像南方的革命军，这让吴佩孚对他不得不提防。第一次直奉战争后，冯玉祥因为军功获得了河南督军的位置，吴佩孚就老大不乐意，处处找机会排挤。而冯玉祥又恰恰是一个不甘心俯首听命的角色，当然对吴佩孚的排挤极为不满。
有一次，逼急了的冯玉祥跑去找曹锟诉苦，说是吴佩孚要缴他的械。曹锟也爱惜这员为自己打天下的大将，但对吴佩孚又没什么办法，只好安慰他说：不会的，吴佩孚怎么会这么做呢。你们要是实在不和，我给你另外想个办法吧！后来不久他就任命冯玉祥为陆军检阅使，吩咐他带兵驻扎北京南苑。这就等于将冯玉祥晾了起来，河南的位置也让了出去。由此冯玉祥对曹锟也开始若即若离。
从此以后，冯玉祥已经彻底不相信吴佩孚和曹锟，为了保住自己的地位，他开始和段祺瑞秘密联络，等待时机。
1924年10月，冯玉祥看到吴佩孚连连受挫，军心动摇，便命国民军的先头部队以每天200多里的速度向北京进发。为保证行军速度，冯玉祥让先头部队把帐篷、炊具等物沿途留下不动，以便后续部队到达时缩短吃饭、休息的时间。就这样一路急行军，冯军于lO月21日晚悄悄地进入了北京城。
率先入城的冯军鹿钟麟部切断电报、电话等通信联络，包围总统府，捉住了曹锟。23日早晨，冯玉祥占领了整个北京，这就是“北京政变”。
第二天下午，冯玉祥、胡景翼、孙岳及主要将领和一些有关的政客在冯玉祥的司令部开会，决定电请孙中山北上主持大计，同时还决定请段祺瑞就任国民军大元帅，来京处理一切事务。
冯玉祥的北京政变就好比后院放了把火，令前线直军军心大乱，直奉战争形势陡转。吴佩孚在得知冯倒戈的消息后，仓促之间把山海关战事交给张福来负责，自己率队从海道回天津救援，他曾密令豫、鄂、苏、浙等省火速抽调军队北上相助，但各省多发电遥为声援，援军却未到。奉军得滦州后就切断了直军内外的联系，直军在山海关完全失败。
冯玉祥、胡景翼、孙岳三军乘势进攻，孤立无援的吴佩孚只好于11月3日率部分幕僚卫士乘船到大沽口，渡海南下。但他并不甘心失败，在离开天津前，他在天津东站给段祺瑞打电话，说出了自己的打算：将军队开进天津各国租界，就能引起外国插手干涉，然后借局面混乱之际火中取栗。
段祺瑞回答说： “你是最优秀的军人，为什么要惹出国际问题呢？我看你先休息几天吧！”
吴佩孚听了之后连称： “老师，我遵命。”当即乘车回塘沽转船逃走。临行前还将无法携带的弹药辎重通通加以封条，上书“移交段督办查收字样”。
对于吴佩孚，段祺瑞的感情是复杂的，平心而论，他是很欣赏吴佩孚的才华的，大有英雄相惜之感，．但他们各属不同派系，矛盾无法调和。不赶走吴佩孚，直系势力将控制北京政局，他老段自然难有出头之日，但直系军队既然已经瓦解，对吴佩孚本人就没有追杀到底的必要了，而且皖系势力还未恢复，他还希望通过保留直系的部分实力而同北方的奉系、国民军形成鼎足，使任何一派都不得为所欲为。于是他通知芦台奉军暂缓前进，给吴佩孚南逃争取时间。
11月5日，曹锟下停战令和罪已令，移居团城。段上台后，对曹锟也加以了保护，曹于1926年4月10日获得自由。此后，曹亦为东山再起努力过，他曾通电直系诸将拥其复位，但失败了，吴佩孚就特别不赞成拥曹复位。后来，曹锟辗转河南、山东等地，最后到天津做了寓公。由一个卖布小贩到以贿选爬上北洋政府“大总统”宝座，曹锟的一生也是颇耐人寻味的。“七七事变”后，日伪汉奸以高官厚禄相许，要他出来做傀儡，曹锟不为所动。1938年5月17日，曹在天津病死，终年76岁。
直奉战争历时两个多月，以奉张大胜结束，直系主力被歼，直系军阀自此由盛而衰。
就任执政，重掌权柄
随着吴佩孚战败南下，直系势力在北方覆灭。这一切都在段祺瑞的算计之中。他很高兴地看到，自己联奉反直的计划终于获得了成功，不禁为自己高明的算计得意不己。同时他也知道，自己政治生涯的第二个春天马上就要到来了。不过，多年的历练告诉他，不能高兴得太早。
首先是计划中的一些细节发生了变化。原计划中奉军是不能入关的，但是张作霖击败吴佩孚后，却没有遵守这一约定，直接将军队开到了天津附近。这是与冯玉祥原来的打算相反的，他的目的就在于取得华北直隶等地为地盘。现在奉军大举入关抢占地盘，就使得他的打算落空了，北方出现了奉系和国民军两大势力对立的局面，所以段祺瑞就不得不考虑奉系张作霖的态度了。对于冯玉祥邀请他为国民军大元帅的电报，他也是东扯西拉，不说正题。另外，南方各地督军们是个什么态度他也吃不准，因此怕把自己陷于被动。
出乎冯玉祥预料的，北京政变后的局势对他来说日趋恶化。张作霖非常讨厌冯玉祥，他曾对人表示说： “冯玉祥替咱打仗，那是120万小洋钱买的他，他不能主张国事。”奉系其他将领认为冯的野心又大，又会造作，是一个很难相处的人，但张氏父子和奉军一般高级将领对段都很尊敬，把他看作是北洋元老中最有希望的人。所以，张作霖考虑要联段制冯，他也宣布拥段做联军统帅，但考虑到孙中山的声望，又于1924年10月30日致电孙中山，也请他北上。
冯玉祥在与张作霖、段祺瑞周旋之时，感到自己实力不足，迫切希望能拉到一支盟友，思前想后，只有孙中山的思想与自己接近，于是在政变后，冯玉祥立即邀请孙中山北上共商大计。冯玉祥还顺便干了件大事：他派鹿钟麟把溥仪驱逐出宫，废除其帝号，并修改民国初年对清室的优待条件，算是“把皇帝统治的最后一点痕迹也铲除了”。对此，段祺瑞很是不满意，甚至拍电报去责备冯玉祥，冯玉祥知道段祺瑞不满意他的行为，’但他却不认同段祺瑞的思想，他曾经调侃说： “我把皇帝赶走，碍着你什么事了？是不是段先生曾经当过前清的大臣，过去老给皇帝磕头上了瘾了？”段祺瑞对此不满，可却有人大声喝彩，那就是号称民主斗士的孙中山，他坚持认为冯玉祥此举算是斩草除根，将来看还有谁来复辟。
孙中山在11月4日分别回复张作霖、冯玉祥，同意即刻北上。段祺瑞本还在观望南方各省的态度，得知孙中山要北上的消息，马上紧张起来，电促冯玉祥、张作霖到天津开会，共商收拾时局的办法，这就是“天津会议”。冯玉祥接到段电后未即启程，准备等孙中山到津后再去，以免显得人单势薄。
但段却派人到京催促，冯玉祥不得不在11月9日启程赴天津。他是只带了副官、马弁几个人到天津的，张作霖却是等到他的两师人马到津后，才和卢永祥一块抵达天津（此时的卢永祥看到直系战败，便从日本回国，投奔了张作霖）。
到了天津，段祺瑞宴请张作霖、冯玉祥。为了将他们的关系拉近，便于自己以后执政时少一些麻烦，他特意将冯玉祥的功劳大大夸了一番。没想到张作霖一下子站了起来，对他说： “我们起义是为了国家，这是当兵的分内之事。但起义和收买完全是两回事，收买过来的人不能参与国家大事的讨论。”说完，头也不回地走了。
这话明显是冲着冯玉祥来的，措手不及的冯玉祥非常尴尬，段祺瑞也没想到张作霖这么不给面子。毕竟冯玉祥是自己一手拉过来的，他张作霖不认账，老段可不能忘恩负义，于是马上劝冯玉祥，好话说了一箩筐。会后又拉着冯玉祥去张作霖的下榻处拜会，张作霖碍于段祺瑞的面子，不好讲冯玉祥怎么样，只好说了几句场面话，算是让冯玉祥有了个台阶下。
