政局如此，冯玉祥对曹锟的贿选和军阀混战都极感厌恶，通过马伯援给孙中山带去五条意见，提出实行民主、改革政治和团结协商等具体主张。孙中山派代表告诉他，在当前的形势下，首要任务是先打倒最反动的直系军阀，冯玉祥答应俟机而动。但他知道除非联合同志共同行动，不足以成大事。他想到了知己朋友、现任第十五混成旅旅长的孙岳，对曹锟贿选总统之举也深恶痛绝。于是，他就以在南苑建成“昭忠祠”，举行落成典礼为由，把孙岳请到北京。
这天，冯玉祥陪孙岳祭过烈士亡灵，往义地走来。孙岳边看边叹息说：“民国成立不过十多年，这里已经躺下这么多战士了。”冯玉祥说：“他们为国捐躯，落得一个忠字，也算不朽了。”孙岳点头说：“都是忠义好汉呵！都是精魂忠骨呵！”冯玉祥感慨地说：“他们死了，能得忠骨之称，孙二哥，将来您百年之后，人当如何评价？”孙岳说：“那不用问，像现在这样干下去，一个不折不扣的军阀走狗罢了。”冯玉祥说：“您统兵数千，坐镇一方，为什么甘心做人家的走狗？”孙岳哈哈大笑说：“我算什么？还有那些带着三四万人的，不也是做着军阀的走狗，莫可如何吗？”“您说谁？”冯玉祥明知故问。“即你冯焕章是也！”两人半开玩笑地说着，来到坟地一座草亭里坐下。冯玉祥严肃地说：“目前闹成这个局面，我想稍有热血良心的人，没有不切齿痛恨的。我带的部队名义上号称一师三混成旅，实际上还不到三万支枪。如此境地，未敢莽撞。但是我们必须努力，把这一批祸国殃民的混账东西一股脑推翻，不然的话，如何对得起我们创造民国的先烈？”孙岳正容说：“你要是决定这么干，我一定竭尽全力相助。”他还保荐了胡景翼和他的副手岳西峰，可共同举事，这两个人也都是冯玉祥相知的人。
二人密议结束，冯玉祥叫过随员以草堂为背景，和孙岳合影一张，以资纪念。
这就是近代史上有名的“草堂密议”。
先是，胡在河南受张福来之愚弄而有“三角同盟”以排挤冯氏的举动。等到驱冯成功，张福来做了督军，而胡丝毫得不到张之接济，才明白当了人家的枪使。而吴佩孚蓄意排除异己，时存吞并胡部之心。胡景翼才感觉到岌岌不能自保，于是思念起冯氏从前相待之厚，追悔不已，乃时来南苑相见谈心。由是两人订交益深。
经孙岳联络，胡景翼即派岳西峰前来和冯玉祥密晤。岳西峰说：“有几句话，今天要和你好好谈谈。你是一位创造民国的人，尤其在陕西、河南的时候，你领导指挥我们为国效劳，咱们过去同过多年的生死患难，想你一定能相信我们，推心置腹。咱们今天就说革命党的话，开门见山地说，你说好不好？”冯玉祥说：“你这些话都是从心窝里掏出来的，我信得过。你来的时候，笠僧（孙岳）说什么了吗？”岳西峰说：“笠僧的意思完全听你的命令，只要你肯带着我们打倒这帮害民贼，你说怎么办，我们就怎么办，没有半点含糊。”冯玉祥听后说：“西峰弟，你既如此说，我们公是公，私是私，我也把话和你说透。第一，吴佩孚为所欲为，要打倒异己，对张作霖的战事，目前已到了一触即发的地步，这种战事，我们誓死反对，如果吴佩孚有命令给你们那边，你们万万不可接受；第二，我们必须利用形势，相机而动。将来如果我们成功，一定要迎请孙中山先生北来，主持一切。他是中国唯一的革命领袖，我们应当全心全意地拥护，否则我们就是争权夺利，不是真的革命。”最后他嘱咐说：“你告诉笠僧，纪律是军队的命脉，有之则生，无之则死，应该马上着手严整军纪，切切不可大意。
冯玉祥这边加紧补充军械，同时又秘密从河南招了一万多名新兵，编为两个补充旅，对外称只是一个营，并加紧进行训练。
北京政府从意大利买进大量的比士尼步枪、大炮和子弹，冯玉祥派总参议蒋鸿遇去见陆军总长陆锦请领，陆总长避而不见。后来经曹锟批准，可以领三千支步枪、十八门炮和几百万发子弹。哪知领了好几次都领不到，冯玉祥很着急，召集大家开会，他追问蒋鸿遇：“究竟为什么领不到东西，难道总统批准都不算数吗？”蒋鸿遇才如实说：“现在军械都归李彦青掌管，不送上钱去，是什么都领不到的。”冯玉祥问需要多少钱？蒋鸿遇说最少得十万。没有办法，只好在每月应领的经费项目下凑足十万元给李彦青送去，下午4点送到，6点就接到李彦青的电话，通知去领枪弹。第二天大总统在居仁堂召集会议，冯玉祥到的时候，别人都还未到。曹锟见了冯玉祥，笑嘻嘻地从台阶上迎了下来，说：“焕章，你这么苦，还给我送钱，我实在太过意不去。”可以想见，当时冯玉祥的痛苦心境。
冯玉祥深知光凭他们三个人的力量是不足以同直系对抗，必须联合全国所有反直势力。
其时，粤、奉、皖“反直三角同盟”已经成立，皖系浙江督军卢永祥首先通电反对贿选，并在杭州召集会议，并准备大张旗鼓的武力讨伐。而奉张自1922年败于直军，退出关外后，日事整军经武以求报复。张作霖曾经派郭瀛洲来见冯氏，燕谈间，冯氏向其作泛泛的表示：“苟能利国福民，而弭国内无意义的斗争，愿与海内贤豪一致进行”云云。郭之来系由以前为冯氏施洗礼之牧师刘芳作介绍人。这是张、冯二人的初次接洽，双方都存在着戒心，因而未成立具体的协议，更谈不到交换条件。冯玉祥与张作霖就倒直的政治往来始于1924年2月，冯与李德全结婚，张派亲信副官马炳南前去致贺，并与冯就此进行了实质性的会谈。此后奉张接济了冯玉祥一些军火，还通过段祺瑞给其150万元军饷。同时，冯玉祥还通过贾德耀与在天津的段祺瑞就倒直达成了共识。
与此同时，冯玉祥还从北京政府内部寻找政治和作者。他与内阁教育总长黄郛私人关系比较密切，往来较多。黄郛知识丰富，著述很多，一直为冯氏欣赏。一次黄在南苑兵营演讲后，对冯玉祥说：“你参加过辛亥滦州起义，是革命的先驱，现在国势危急，当国者懵懂不醒，非彻底改造，难期挽救，你应该继续努力，以竟辛亥革命未竟之功。”从此二人引为知己，共谋如何举事。
此时的吴佩孚正在洛阳加紧练兵，他继承了前辈袁世凯、段祺瑞“武力统一”的衣钵，踌躇满志，目空一切，大肆扩充军队，排除异己，镇压工农运动，岂不知大难将至。
而现在的直系已经不是刚刚战胜奉张时的同仇敌忾，在曹锟坐上总统宝座之后四分五裂的情况更加严重。首先是曹锟的家人和身边的部属，既摄于吴大帅的威严，又不满他的专断，经常在曹锟耳边编排吴的不是；其次是直系大将王承斌，无端被吴佩孚剥夺了兵权，甚为怀恨；再有就是冯玉祥，一直桀骜不驯，不买吴佩孚的账，使吴经常有一种骨鲠在喉之感。南方的齐燮元、孙传芳，名义上是直系一派，但是各怀心腹事，不过敷衍而已。
直系最严重的问题仍旧是财政问题。吴佩孚扩军备战，大把烧钱。而直系诸人只一味各谋私利，损公肥己，在直奉开战前夕，财政已经濒临破产。对战争来说，没钱等于脑血管破裂，治得及时，能苟延残喘；治不好，就有生命危险了。
