宰相本是书生
1921年4月，聚集在广州的国会议员召开了“非常国会”，选举孙中山为“非常大总统”——之所以冠以“非常”二字，是因为当时出席选举会议的议员人数不足；“选举产生”总统，是为了组建“中央政府”，合法对抗北洋政权。
孙中山当选为非常大总统后，以“恢复国会、恢复临时约法”为旗帜，再次兴起“护法运动”，积极准备北伐。一天，孙中山来到总统府秘书长胡汉民的办公室，顺手打开一个公事箱，发现里面有好几份自己签发的手令，孙很是生气，问：“你怎么扣发我的手令！”接着一顿批评。
胡汉民始终神情泰然，待孙中山停下来后，他慢条斯理反问道：“先生还有其他的话要说吗？”孙中山倒是被他弄得一愣：“没了！”胡汉民不慌不忙将公事箱翻了个底朝天，将扣下的手令倒了一桌，一封封拿起来打开给孙中山看，并解释道：“这是人事不当的任命，那是时机不合的调遣……”孙中山一时竟不知道说什么好。
稍微翻看了一阵，胡汉民再次辩解：“即使是在专制时代，也有大臣封驳诏书，请皇帝收回成命的故事！先生还记得你在起草中华革命党的誓词也有‘慎施命令’一条吗？你这些决策并不合理，因此我给压下来了。”
孙中山语塞，无奈地说：“说来说去还是你对，我说不过你。”胡汉民仍不罢休，说：“先生应该说一句‘你是对的’才合理。”办公室的气氛一时很尴尬，此时墙上的大挂钟响了起来，一个参议走过来圆场：“下班了，一起到太平馆吃肥鸽，由我请客。”孙中山勉强笑笑：“好啊，一齐去，不过该由我做东，因为今天是我的错。”
胡汉民这才释然，笑着说：“太平馆吃客多，太杂乱了，先生不宜。若先生真想吃，我让太平馆送外卖到司令部吧。”一场风波算是平息了下来。
对于胡汉民的执着，孙中山曾评价：“余与汉民论事，往往多所争持，然余从汉民者十之八九，汉民必须从余者十之一二。”
胡汉民是广东番禺人，原名衍鸿，字展堂，汉民其实是笔名。他自幼聪颖好学，文采斐然，曾中过清廷举人，留学日本时结识了孙中山，从此悉心相随。他与同为广东人的汪精卫、廖仲恺构成了孙的三大支柱，曾被人讥讽为“粤派”——又因为孙、胡、汪、廖均擅长理论，而黄兴、宋教仁等湖南派较注重实干，张静江等浙江人捐献经费，故而有“广东人指示，湖南人拼命，浙江人出钱”一说。
1912年元月民国初建，孙中山任临时大总统，年仅34岁胡汉民被任命为总统府秘书长，当时革命党人中人才济济，胡汉民却得到一致推崇，连素来喜欢发表奇谈怪论的章太炎都认为胡汉民是“宰相”最佳人选：“临时政府成立以来，宪法未定，内阁既不设总理，总统府秘书官长，乃真宰相矣。”
在总统府里，胡汉民与孙中山同居一室，经常通宵达旦工作。总统府的文书，胡汉民都要亲自过目；有人要见总统，胡汉民要先接见，然后根据具体情况，再由孙中山决定是否见面。胡汉民有如下自述：余治总统府文书，再小悉必过目。四方有求见先生，必先见之……余与先生同寝室，每夜余必举日间所施行重要事件以告。其未遽执行者，必陈其所以，常计事至于达旦。
就任总统府秘书后，胡汉民大力革新风气，下令废除清代官场称呼，号召革命党人确立“公仆”观念，而且身体力行，总统府内从秘书长到录事不分官级，一律月俸30元。
很多人想在新政府中捞个一官半职，胡汉民坚持任人唯贤。前清状元公、著名实业家张謇担任实业总长，推荐了几个人到总统府任秘书，胡汉民认为不合适，全部拒绝。张謇碰了一鼻子灰，讽刺胡汉民是“第二总统”——其时张謇已经名满天下，手中几大工厂盈利颇丰，孙中山、黄兴都得找他募集经费，胡汉民却丝毫不买其账。张謇奈何不得他，自嘲“其书意气太盛，不与之计较。”胡汉民的老友汪精卫却认为胡做得很对，“唯负责，故有此谤；毁之，适以誉之耳”。
胡汉民不仅在公事上一丝不苟，处理私事也不枉法。他的堂兄家买了个丫鬟，因做错了事被体罚，其父亲告到警察厅。警察厅长碍于胡汉民的面子，便请示该如何处理，胡汉民淡然道：“现在是什么时代，人口怎可买卖，放那小姑娘回家。”后来警察厅将丫鬟判还给了其父。堂兄非常生气，找胡汉民理论。胡汉民问：“现在实行三民主义，讲求人人平等，怎么还能容许人口买卖？”堂兄无奈，骂道：“你这呆子，书读迂腐了吧！”
为了维护孙中山的形象，胡汉民也经常“代总统受过”。新政府成立时，国库中空空如也，陆军部长黄兴为军饷问题急得吐血，而各省向中央要饷的代表络绎不绝，一次安徽都督派专使到南京，说“需饷奇急”，向政府求援。安徽虽然拥护临时政府，但立宪派势力很大，内部不甚稳定，为了显示新政府的实力，孙中山当即“批了20万”交胡汉民去办。
临时政府内根本没这么多钱，胡汉民东挪西凑，好容易凑得10万给了安徽，对方不满“秘书长执行总统命令不彻底”，胡汉民也不分辨。孙中山对胡汉民的苦心深有体会，他曾对儿子孙科提到“汉民纵不能代我办事，必能代我任过。否则各种之过皆直接归在父一人身上矣。”
临时政府初建时，革命党内分歧不断，湖北共进会、浙江光复会因领导人地位问题屡次与总统府为难；“临时国会”中的议员又分为几派，为了团结各方，胡汉民经常出面调解纠纷，他曾代表政府出席参议院会议，向议员们力陈和政府意见不一的危害：“现在虽然民国建立，可北方仍然在北洋军队的控制下，革命还没彻底完成，如果咱们同盟会控制的议院尚不能信任政府，岂不给敌人可乘之机？”
孙中山为了减少战乱，声名只要袁世凯襄赞共和，自己愿意下野，为了限制袁，同盟会方面提出袁世凯必须到南京组织中央政府。袁世凯当然不愿离开老巢，一边唆使北洋军捣乱，一边收买国会议员——在袁世凯的暗中活动下，临时议会居然通过了“临时政府设于北京”的提议。
既然议会通过，袁世凯在北京任职就属于“合法”，孙中山、黄兴等人十分气愤，当天就把属于同盟会的国会议员召集起来开会，强调不能对袁世凯姑息。按照法定程序，如果要改变国会通过的决议，先得由临时政府提出异议，请参议院复审。议员们分成两派，支持袁世凯的部分坚决不同意更改方案，黄兴怒气冲天：“如果同盟会议员故意借此生乱，为了蝇头小利内讧，即便是违法，我也要带着宪兵到国会把这些人架走！”黄兴的态度引起了反对派的激烈不满，胡汉民担心分裂更大，劝孙中山、黄兴等人翌日按原计划去祭奠明孝陵，其他的事情由他来解。
第二天孙黄一行离开。胡汉民迅速起草了《关于临时政府地点》的提案，以临时大总统孙中山的名义依法“请参议院复议”。待孙中山回来，此事在“临时国会”已经解决，最终结果是：袁世凯必须到南京任职，选派代表到北京迎接。
一场关于“尊重约法”的纠纷得到完美解决，当时有议员评价道：“胡氏治事，有魄力。此事如此办理，胡氏采先斩后奏手法，定有擅专之嫌，非得国父极端信任者，不能如此。”“国父不责胡，对于胡的斡旋之苦心与负责之精神实已甚为欣赏了。”
胡汉民在临时政府中担任了三个月的总统府秘书长，为共和制度做了不少基础工作，他“致力建立各项典章制度，无论官制、军制和财政、教育、司法、实业、交通、考试等，都订立了各种基本制度”。当时并未确立宪法，胡汉民起草并送给参议院审核的《临时政府组织法》几乎囊括了人权、立法、司法等各项。
同盟会尊重约法，袁世凯却是流氓行径，他暗地指示部下在北京骚乱，还是强迫议会通过了他在北京任职的提议。1912年4月1日，孙中山辞临时大总统，偕胡汉民、汪精卫、廖仲恺等人去广州。他们经过上海时，袁世凯请唐绍仪转达邀胡汉民、汪精卫为北京政府高等顾问，胡汉民断然拒绝：“袁乃因为我辈可以入其彀中矣？”
总统府职业秘书长
到了广州后，胡汉民被广州省议会选举为广东都督，孙中山在其就任仪式上致辞：“胡汉民先生为人，兄弟知之最深，昔与同谋革命事业已七八年，其学问道德，均所深信，不独求于广东难得其人，即他省亦所罕见也。前革命军起时，兄弟约其同到江南，组织临时政府，彼力为多。嗣兄弟蒙参议院选举为临时大总统，一切布施，深资臂助。迹其平生之大力量，大才干，不独可胜都督之任，即位以总统，亦绰绰有余。”
其实胡汉民曾做过一次广东都督：武昌起义前夕，胡作为同盟会南方支部的负责人，便一直往来香港、广州之间。武昌首义成功后，胡汉民号令广东各地革命党响应，短短数天广东独立，胡被推举为都督、陈炯明为副都督。在组织广东军政府时，他将要害部门的职务牢牢控制在革命党手中。此举相当具有前瞻性，为国民党保留了一块根据地。
再任都督的胡汉民致力将广东建成模范省，兴起系列改革措施，正待他准备大举干一番时候，国民党代理理事长宋教仁遇刺身亡——经过一番详细侦查，刺宋的主谋赫然指向袁世凯。
孙中山异常悲愤，号召进行二次革命打倒袁世凯。可惜只打了两个月便宣告失败，国民党骨干纷纷逃亡日本。
袁世凯死后，北洋控制的中央政府依旧践踏共和，革命远未成功。不幸的是，1916年6月，年仅43岁的革命元勋黄兴病逝；11月8日，35岁的蔡锷将军又因喉癌去世。孙中山痛失战友却无暇休息——控制北京政府的段祺瑞却拒绝恢复《临时约法》和国会。孙不得不到南方“护法”，跟随孙中山北上的胡汉民有《记事》诗一首，表达了他对时政的忧虑：形胜居然占上游，将军跋扈死方休。中州多故谁为政，江右无人我始愁。
1917年8月，孙中山在广州召开“非常会议”，成立护法军政府，“非常国会”选举孙中山为陆海军大元帅，陆荣廷、唐继尧为元帅，胡汉民被任命为交通部长。
西南军阀们根本不想北伐，孙中山看清了这些人的嘴脸，黯然辞职，与胡汉民、汪精卫、廖仲恺等人去了上海。直到1918年8月，陈炯明控制的粤军赶走桂系，孙中山等人才再次南下。
广东的北伐大业再次起步，北洋自己忙于内斗，直系、皖系、奉系闹起了三国演义。到了1920年，皖系段祺瑞被赶下台，直系曹锟、吴佩孚成了北洋政府的主子。
为了对抗北洋，1921年4月广州国会议员们召开了非常国会，选孙中山就任“中华民国非常大总统”，另立中央。胡汉民担任总参议，主持日常工作。
胡汉民虽然官职不高，实权却相当大，而且他书生脾气一发，谁都不怕，有时候连孙中山的“总统手令”也给扣押下来。胡汉民曾经很自负地对孙中山说：“调和鼎鼐，协理阴阳，原是宰相分内的事，我虽无宰相之名，却有其实。”不仅如此，他与孙中山的儿子、广州市市长孙科也常闹矛盾，据他自己而言“无法忍受孙科的太子作风”。某次胡汉民与孙科发生争吵，他一气之下要弃职离开广州，幸亏孙中山及时劝解挽留，胡汉民这才留下来。
事后，有人责怪胡汉民不该发脾气，胡汉民说：“我的脾气算什么，怎比得上孙科的三种脾气呢？”旁人觉得奇怪，迫问究竞，胡汉民说：“因为他是中山先生的儿子，所以他有革命脾气；因为他在国外长大，所以又有洋人脾气，因为他是独子，所以更有大少爷脾气。他有时只发一种脾气。有时两种同时发，有时甚至三种一起来，谁人忍受得了？”闻者无不莞尔，问：“你脾气也不小嘛。”胡汉民笑笑：“我只有一种，革命脾气。”旁人奚落道：“应该是书生脾气最为贴切。”胡不以为忤。
孙中山致力于北伐，粤军总司令、广东省长陈炯明却总是推脱，甚至与北洋当局相互勾结。1922年6月16日，陈炯明悍然发动叛乱，派兵4000人进攻总统府，孙中山先是退到永丰舰上，后因作战失利，离开广东前往上海。汪精卫、胡汉民等也随孙北上。
陈炯明的叛变在国民党内影响很大，孙中山认为“国民党在死去，需要新的血液”，“要彻底完成反帝反封的任务，必须与共产党合作”。这年8月，他会见了专程来上海的共产国际的代表马林和越飞，接着又会见了中国共产党的领导人李大钊和陈独秀，双方商议合作事宜。
廖仲恺、胡汉民、汪精卫等屡次陪同孙中山出席各种会议，赞成改组国民党的决策，并制定了《中国国民党第一次全国代表大会宣言》的起草与审查。11月中旬，孙中山召集国民党代表59人开会，审议国民党改进案，由汪精卫、胡汉民等拟定的《宣言》确立了新三民主义：“民族主义即对外反对帝国主义，对内求得各民族平等；民权主义要建立一般平民所共有、非少数人所得而私的民主政治；民生主义以平均地权，即耕者有其田和节制资本为中心。”
上海紧锣密鼓商议着国共合作，广州这边也局势突变，陈炯明被赶到惠州，粤军司令许崇智等人通电迎接孙中山南下。
1923年2月，孙中山再返广州，此次不再称“非常大总统”，改称“大元帅”——适时控制北洋的曹锟、吴佩孚打出“恢复法统，恢复国会，正式选举大总统”的口号，吸引了不少国会议员北上，南方“护法”失了名义，孙中山便宣布进入“讨贼”时期。
广州“大元帅府”再开，财政部长廖仲恺，内政部长谭延闿，外交部长伍朝枢，胡汉民为总参议，时人称胡为“总统御用秘书长”。
1924年1月20日，国民党第一次全国代表大会在广州召开，胡汉民、汪精卫、林森、廖仲恺均为大会主席团成员，共产党方面也有李大钊、陈独秀。
在“共产党以个人身份加入国民党”的问题上，大会争执得很激烈，廖仲恺坚定支持，张继、冯自由则反对，认为共产党加入国民党是要“借国民党之躯壳，注入共产党之灵魂”，在讨论党章时他们也提出“本党党员不得加入他党”，要求“只能有一个党籍”，借以排斥共产党。
李大钊作为共产党代表发言，指出“共产党员以个人身份加入国民党，是为国民革命事业，是光明正大的行为，不是为个人私利，更不是为团体的取巧。”
胡汉民在发言中采取了折中的态度，他曾在回忆中提到：“当时正值欧战以后，中国的社会问题骤然风起云涌。本党从来提倡民生主义，而以前许多同志都不注意。如果研究马克思主义的人诚心与我们合作，便容他们加入本党亦未尝不可。”“凡共产党员以个人名义加入本党的，如果真正信仰本党的主义，共同努力于国民革命的才可以收容，收容以后如果随时发现了他们有旁的作用或有旁的活动，足以危害本党的，我们应该随时加以淘汰。”
为了说服右派元老，胡汉民还做了些思想工作：“大家的议论，实际上没有什么争执，讨论的焦点是怕违反本党党义和党章；但此种顾虑，只要在纪律上规定即可。在纪律上订有专章，似乎不必再在章程上用明文规定何种取缔条文，惟申明纪律可也。”
胡汉民巧妙地将“共产党员加入国民党”一事用“纪律”而不是“党章”加以界定，意思是在不违背党章的前提下，只需要制定纪律限制共产党既可——此举虽然也有“防共”的成分，但比右派分子却温和多了，更重要的是他明确表示：“国民党党章”并不排斥共产党，找到了合作的重要基础。
在孙中山、胡汉民、廖仲恺等人的推动下，国民党大会顺利通过了国共合作的提议，孙中山被继续推举为党的总理，选举出胡汉民、廖仲恺、汪精卫等为中央执行委员，李大钊、毛泽东、瞿秋白、张国焘等中共党员或为执行委员，或为候补委员。
汪精卫耍阴谋
1924年秋，奉系军阀张作霖再次叩关，联合冯玉祥打败了直系曹锟、吴佩孚，二人控制了北方后，推举已经下台的段祺瑞担任“临时执政”，同时邀请孙中山北上“共商国事，和平解决南北问题”。
国民党内很多人反对总理北上，胡汉民也认为“与军阀没什么好谈”，但孙中山为了避免再开战事，不顾疾病缠身，仍决心赴北京，临行之前，孙中山委托胡汉民留守广州，代行大元帅之职。
盘踞在惠州的陈炯明乘孙中山北上之际，纠结了一帮乌合之众反攻广州，胡汉民以“代元帅”的名义发表《东征宣言》，命军政部长许崇智与黄埔军校校长蒋介石带队东征，将陈再次打垮。
不料1925年春，国父孙中山在北京病逝。
孙中山逝世之前并没指定继承人，国民党内一段时间出现权力真空：与孙同辈的张静江、李烈钧等元老习惯了闲云野鹤的生活，不可能出面组织大局。
少壮派当中有三个人资历相当高，一是代大元帅胡汉民，但胡素来书生意气，容易得罪人，党内支持率不高；第二位是廖仲恺，廖早年参加革命，为人处事具能服众，不过廖与共产党关系亲密，使一些右派对他不满。第三位便是汪精卫了，汪曾因谋刺摄政王而名扬天下，而且是总理遗嘱的起草人，汪当时在国民党内属于中间派，无论苏联或者中国共产党对其都有好感，他与军中将领许崇智、黄埔学生军领导蒋介石私交也不错，有军队支持，综合比较之下，汪无疑成了最佳人选。
廖仲恺不在意名利，胡汉民以为自己已经是“代元帅了”，理所当然地能坐头把交椅，汪精卫却努力拉拢各方面，企图上位。
其实胡汉民与汪精卫关系相当好，胡比汪年长四岁，汪一直将其视作大哥，尚在日本留学的时候二人便同吃同住。同盟会在南方兴起的革命屡次失败之时，东京同盟会总部弥漫着失望情绪，汪精卫决心回国刺杀满清大员，以“彰革命之势”。胡汉民得知，亲自劝汪：“兄弟，你是同盟会中举足轻重的人物。如果你以一时之激情与虏酋拼命，对革命的损失太大。”汪精卫则说：“梁启超骂我们是远距离革命家，章太炎、陶成章等人又另起炉灶，咱已经到了非口实可弥缝，非手段可挽回的地步。必须拿出具体的行动来证明我们的革命之决心，才能促使同盟会内部团结和挽回民众对革命的信心。”
尽管汪精卫痛陈行刺之必要性，胡汉民却坚决反对汪的计划。后来汪精卫临走时不敢向胡汉民告别，只是咬破手指留下血书：“我今为薪，兄当为釜”。此话出自汪精卫最有名的一篇文章《革命之决心》：“现在四亿人民正如饥泣的赤子，正在盼等吃革命之饭。但烧熟米饭所需要的一是薪，二是釜。薪燃烧自己化为灰烬，把自己的热移给了米，才使生米变成熟饭；釜则默默地忍受水煎火烤。所以革命党人的角色有二，一作为薪，为薪的人需要奉献的毅力，甘心把自己当作柴薪，化自己为灰烬来煮成革命之饭；二作为釜，为釜的人需要坚韧的耐力，愿意把自己当作锅釜，煎熬自己来煮成革命之饭。”
胡汉民见到血书时，当场哭得昏了过去。
后来汪精卫行刺失败被捕，胡汉民与陈璧君（后嫁给了汪精卫）全力奔走，设法营救。他在新加坡费尽唇舌，只筹得100银元。一筹莫展之时，陈璧君建议到澳门赌场试试，没准能赢一笔钱。胡汉民想反正100银元无济于事，不妨冒一冒风险。不料只两把钱就全输完了，结果又大哭了一场。幸好汪精卫遇到清廷大赦，给放了出来，听说胡汉民为了救自己吃了不少苦，也相当感动。
感动归感动，孙中山去世后，谁来领导国民党，却是个相当现实的问题。汪精卫跟胡汉民就较上了劲。
几经磋商，国民党中央决意召开全体会议，将“大元帅府”改组为“国民政府”，重新选各部，继而完成北伐事业。在改组前，胡汉民、汪精卫、廖仲恺三人商定了人选名单。
但汪精卫还是阴了胡汉民一把。
1925年6月15日，“国民党中央”全体会议召开，改组顺利完成，选举了16位中央委员，汪精卫、胡汉民、谭延闿、许崇清、林森五人为常务委员，汪精卫担任常委主席，接下来的事情就让胡汉民眼花缭乱了：
7月1日，“国民政府”在广州正式成立，汪精卫当选为政府主席，下设5个部，以廖仲恺为财政部长，胡汉民为外交部长，许崇清为军事部长，徐谦为司法部长，孙科为交通部长；
7月6日，“军事委员会”成立，汪精卫被选为军事委员会主席。
也就是说，党、政、军三方面，汪精卫都成了一把手。
更为幽默的是，连胡汉民参与提议的“党委名单”也被汪精卫篡改，并在报纸上发布，造成既成事实，直到中央政治会议讨论时，胡汉民才知道有了变动。
胡对于自己被搁置一边相当气愤，责问汪精卫和廖仲恺：“已经研究定下的名单，没有经过与我研究就偷偷修改并擅自发布，这是搞的什么动作！先生去世了，我别的可以不问，但不能不问党。我们之间，仅就历史渊源而言，也决不能这样搞欺骗。”
至于被任命为“外交部长”时，他也不愿上任：“我不懂英语，当什么外交部长？”盛怒之下甚至要辞职出国，经多人劝解后才留下。后来胡汉民得知汪精卫上台得到了廖仲恺与共产党的大力支持，对廖以及中共也极为不满，逐渐靠向右派。
大权在握的汪精卫此刻忙于整编军队，在这年8月，“国民革命军”正式改组，黄埔学生军为第一军，蒋介石任军长；湘军为第二军，谭延闿任军长；滇军改为第三军，朱培德任军长；粤军改为第四军，李济深任军长；福字军改为第五军，李福林任军长；援鄂军为第六军，程潜任军长。
廖案难辞其咎
廖仲恺协助汪精卫做了国民党头把交椅，胡汉民相当愤然，自此联合右派想倒廖；右派诸人也乐意有个“大佬级”人物充当领袖，因而胡汉民的寓所成了右派集会据点之一。对共产党抱有敌视态度的吴铁城、胡毅生、邹鲁、邓泽如等十几人常在胡宅开会，主题无非是两个：驱逐共产党，搬到廖仲恺，甚至有人建议“以暗杀手段解决之。”
胡汉民一直主张“合法斗争”，他曾对人说：“在第一届中央委员里，咱们这派还是多数。不如到上海将戴季陶、于右任等老资格请到广州，促使政府召开一次一届四中全会，商量出倒廖的办法。”胡还写了十几封信委托不同的人带往上海、北京等地，联系右派中央委员，不过此举并没引起广泛赞同。
廖仲恺做事雷厉风行，的确开罪了不少人：中山县县长朱卓文办事不力，廖严厉批评；胡汉民的堂弟胡毅生在参加广州市长竞选时舞弊，又被廖仲恺奉命查办。朱、胡二人对廖仲恺深为嫉恨。
朱卓文曾收买了一群亡命之徒，计划趁廖仲恺、汪精卫等人在苏联顾问鲍罗廷家开会时，派刺客大举袭击，以炸弹机枪将“左派”一网打尽，这事传到广州卫戍司令吴铁城耳朵里，吴吓出了一身冷汗，赶紧找到朱卓文，劝朱“顾全大局，切勿使他为难”，但并没追究责任。
此计不成，朱卓文、胡毅生又联合魏邦平、林直勉等顽固派，组织了一个“文华堂俱乐部”，到处劝反对共产党的人参加，还创办《国民新闻》日报，公开攻击廖仲恺“年将50，兼职10余……对于政府、党务用个人包办”等。另宣扬“有志士不满当局，欲行刺”云云，这些人企图恐吓廖仲恺自行辞职，廖夫人何香凝听到风声，劝丈夫说：“既然有人谋算行刺，你也该多加两个卫兵防备一下才是。”廖不以为然：“我生平为人做事凭良心，自问没有对不起党、国家和民众的地方，他们如果一心想来暗杀，预防也没用！”
廖仲恺大义凛然，杀手们却不管是非。
1925年8月20日上午9时，廖仲恺在国民党中央党部门口遇刺身亡，四枪皆中要害。
“廖案”引起了轩然大波，国民政府和中央党部迅速为成立了“特别委员会”，由汪精卫、许崇智、蒋介石为委员，全权负责追查此案；随后又成立了以朱培德为委员长，吴铁城、周恩来、陈公博等9人为委员的“廖案检查委员会”，负责监督。
当时汪精卫和蒋介石均以“左派”面目出现，汪顾虑胡汉民资望比自己高，想借此搬到胡汉民；蒋介石好容易有个出风头的机会，更是急于表现。因而廖仲恺一案成了汪精卫和蒋介石合作的最好时机。
“特别委员会”成立后，汪精卫、蒋介石立即宣布戒严。经调查证实，粤军旅长兼民团司令朱卓文主持其事，胡毅生、魏邦平、林直勉等人参与其事，而且从被捕刺客身上搜出一份名单和一张手枪执照，名单上还有汪精卫、鲍罗廷、谭平山、蒋介石、周恩来等人。
案发当天，朱卓文已逃走；在逮捕令发出之前，胡毅生等也逃到香港去了。胡毅生既然参与此事，那么其堂兄胡汉民也摆脱不了嫌疑。
8月25日晚，由汪、蒋派遣的五十多个黄埔军校学生军直扑胡汉民家，并指示若“逃捕”即可就地处决。胡汉民刚刚就寝，听到门外嘈杂的声音，赶紧下床，穿上衣服匆忙从后门逃出。因事出突然，他不知到哪里是好，稍微思量片刻，心想最安全的地方莫过于汪精卫的家里，干脆直奔汪家！
汪妻陈璧君见胡汉民行色匆匆而来，非常惊讶，听胡汉民说可能是汪精卫下令要捉拿自己，陈怒不可遏，立即打电话给汪精卫，质问：“胡先生究竟犯了什么罪，你要派人深夜前去缉捕？他跟你是什么关系，怎么能忘恩负义？”
汪精卫内心也很矛盾，他既希望搬到胡汉民，又不希望胡汉民真是幕后指使，但情势之下也不便多说，只是含糊道：“背叛革命的反动派就要捉。”陈璧君恨声道：“那好，胡先生就在我们家里。看你怎么对他。”汪精卫闻言一愣，气得掷下话筒。陈璧君怕生意外，让胡汉民住了下来。
国民政府抓捕胡汉民的消息很快在广州城传的沸沸扬扬，右派坚决挺胡，痛斥汪、蒋联合使阴招。汪精卫、蒋介石担心此事扩大引发更大的争执，不敢欺人太甚，后来国民政府顾问鲍罗廷建议胡汉民去苏联考察，胡心想已经难辞其咎，出去走走也好，于是在9月22日乘船赴苏。
胡汉民离开广州后，国民政府发表了一份语焉不详的《廖案公告》，嫌疑犯名单中并没提到胡汉民，仅说是朱卓文、胡毅生为幕后主脑。胡汉民也觉得自己冤枉，曾写过一首七律明志：稚子牵衣上远航，送行无赖是秋光；看云遮处山仍好，待月来时夜渐凉。去国屈原未憔悴，鸩人叔子太荒唐；浮屠三宿吾知戒，不薄他乡爱故乡。以屈原自居，说自己被冤枉了。
在苏联，胡汉民却受到了共产国际的热烈欢迎，他不断走访工厂、学校、军队，感触颇深，还在《真理报》上撰文，称赞“苏俄十月革命是二十世纪的第一件大事；是无产阶级解放的第一声；是宣告帝国主义死刑的第一法庭”。在共产国际会议的发言中，胡汉民声称，“世界革命只有一种，中国革命是其一部分，孙中山的学说与马列主义在根本问题上是一致的。共产国际是革命的大本营，是革命的总司令部！”在同斯大林会见时，胡汉民甚至提出国民党加入共产国际的请求。
得到苏联的支持，胡汉民的地位再次变得尊贵，连国内汪精卫也不得不另眼相看。
1926年1月，国民党第二次全国代表大会在广州召开，汪精卫在会上解释胡汉民与廖案：“党军到胡毅生宅逮捕他时，其仆人诡说他在胡汉民同志家中，士兵受骗，立即到胡汉民同志住宅，几乎累着胡汉民同志，而胡毅生却乘机逃跑了。胡汉民同志知道有些意外之变，非常痛心，因为林直勉、胡毅生都是向来听他的话的，不料如今却有此事。至于外间对胡汉民同志种种谣言，如今已证明都是假的。”
大会选举结果相当有趣，胡汉民在未出席的情况下，与汪精卫、蒋介石一起当选为中央执行委员会常务委员、中央政治委员会委员，并被任命为中央党部工人部长。
帮了老蒋大忙
蒋介石手握兵权，因而在党内的地位扶摇直上，接着蒋又耍了一阴招，把汪精卫也挤了下来，那便是迷雾重重的“中山舰事件”。
1926年3月18日，黄埔军校驻广东省办事处通知海军局，说是奉“广州卫戍司令”、校长蒋介石的命令，调派“得力兵舰二艘，开赴黄埔，听候调遣”。海军局代理局长、中共党员李之龙即派中山、宝壁两舰前往，19日晨军舰到达黄埔后，蒋介石却声称并无调舰命令。蒋介石小妾陈洁如声称，当晚汪精卫夫人陈璧君有过五次电话询问蒋的行踪。
蒋介石认为共产党“阴谋举行暴动”，想把他“绑架到苏联”，当即下令逮捕李之龙，并监视苏联代表团和共产党的机关，接着宣布全城戒严，连汪精卫也要监视。汪精卫气得发疯：“我是国府主席，又是军事委员主席，他这样举动，事前一点也不通知我，这不是造反吗？”
汪派自然不服，但对握有军队的蒋介石也无计可施。
3月22日，国民党中央政治委员会召开全体紧急会议，在80位国民党委员面前，汪精卫大骂蒋介石：“你以为你是老几？你只是个暴发户而已！你的名字既不在国民党25位创始党员之中，也未列为五位监察委员之一，你却以你那无耻的军阀作风来叱责你的长辈！”蒋介石怒目而视：“我会找到证据的。”然而几天过后，蒋介石没能找到任何证据，只好把汪精卫放了。
蒋介石此时羽翼未丰，只能非常“诚恳”地向国民政府承认自己专擅行事，有违组织原则。他又给汪精卫写信道歉，称共产党图谋暴动，不得不紧急处置，请求汪主席原谅。
随后，汪精卫主持召开中央执行会议，强调军事当局非奉政治领袖的命令不得擅自行动。汪也不敢跟蒋彻底闹翻，蒋介石提出“在第一军和黄埔军校中排除共产党”的提案也被通过。此后，汪精卫觉得自己威信受损，称病去职前往法国。
蒋介石自然大喜过望，向国民党中央委员会提出了“整理党务案”，要求召开中国国民党二届二中全会加以切实解决。
“整理党务案”计有九条，规定共产党人不能再担任国民党中央党部的部长；限制共产党员加入国民党者，在国民党高级党部任执行委员时，其额权不得超过该党部执行委员总权三分之一等。
此案于5月15日获得国民党二届二中全会通过，国民党中央常委主席由张静江代理，政府主席由谭延闿代理，蒋介石被选为组织部长，张、谭二人均与蒋介石交情匪浅，蒋无疑把党权抓到了手。
1927年4月，蒋介石率领北伐军打到南京，却不再听从国民政府调遣。适时广州国民政府已经迁到武汉，宋美龄、吴玉章等人为了限制蒋介石，特意召开了国民党二届三中全会，选刚回国的汪精卫为政府主席，另决定“军委会不设主席，由国民政府主席汪精卫为首的7人集体领导，蒋介石只留了个北伐军总司令之名，受军委会节制”。
蒋介石自然不甘心，立马想到胡汉民，无论在资历人脉还是政治手段上，胡汉民都不逊于汪精卫，他立即邀请胡汉民回国为自己出谋划策对抗汪精卫。
胡汉民的老友邓泽如劝胡不要前往南京，蒋介石不会给什么好处。胡汉民说：“自古文武结合，武人马上打天下，文人动笔治太平。难道蒋介石就不需要帮助了吗？国民党多年奋斗，还只有蒋介石干出点名堂。过去得失我不想计较，我想扶蒋介石治理天下。”邓泽如见他不听劝告，就赠给他一个精致的竹笼，里面装了一只小黄雀，暗示你到南京将成为“笼中之鸟”。胡汉民明白其用意，但不相信蒋敢如此对待他。
到南京后，胡汉民受到蒋介石的隆重接待。
这次蒋介石对胡汉民可谓言听计从，拉拢军阀蒋很在行，论政治他实在水平有限。蒋建议在南京召开“国民党二届四中全会”，以“全会”的名义“建都南京，成立南京国民政府”，胡汉民解释：“你拉不来那么多代表，法定人数不足，反对派就可以指责你是伪全会。”蒋介石连忙问：“先生高见？”胡汉民微微一笑：“开成中央政治座谈会，召集中央委员就行，不限人数。”蒋介石一听，连称“妙招”，立即拜托由胡汉民出面，请张静江、谭延闿、吴稚晖等几个“中央执行委员”开了个“座谈会”，商量“组织南京政府”提案。
为了显示“合法性”，胡汉民煞有介事地将座谈会内容拟成《会议纪要》的形式，报给“国民党中央政委会”批准。如此捏住鼻子哄眼睛，“南京政府”完成了“合法”手续。
胡汉民彻底站在了蒋介石一边，要求大家：“一致拥护蒋总司令，以巩固革命阵营。”蒋介石清共，胡汉民摇旗呐喊，为国民党制订了“具有指导性的清共原则”6条，攻击共产党“破坏国民革命，甘为苏联工具”。时人讥讽胡汉民此一时彼一时，胡曾辩解说：“兄弟对于马克思主义理论或许有几分赞成，但决不赞成共产党。”
在武汉的汪精卫自然对蒋介石、胡汉民另立中央相当气愤，调集大军意欲北上。后来几经讨价还价，两派以“防共”为共同目的走到了一起，汪精卫表示愿意“和平统一”、“迁都南京”，后世称为“宁汉合流”。
汪精卫虽然愿意到南京就职，却坚持要蒋介石下台；桂系李宗仁、白崇禧也乘机倒蒋；
蒋介石无赖之下以退为进，宣布下野，腾出时间去追宋美龄。
新改组的南京政府内派系林立，相互倾轧，汪精卫显然不能掌控，很快被桂系攻击下野，到欧洲“考察”；胡汉民、孙科也奈何不了一干军爷，辞职去了南洋“考察”；几大佬联袂缺席，南京政府内更是乱成一片，各派为了相互制衡，只得再请蒋介石出山。
1928年2月，蒋介石在国民党二届四中全会上当选为“中央常务委员会”主席、“中央政治会议”主席兼“军事委员会”主席，从此大权在握。
蒋介石一上台，又想到老搭档胡汉民，急电相邀，广州军阀陈济棠也想请胡汉民去广州，胡婉言谢绝，对人道：“现在只要做到不打仗，就可以用法治的力量来约束住枪杆子。我到南京，不是帮助个人，而是想帮助中华民国，完成中国国民党的使命”。
胡汉民幻想由蒋主军，他主政，从此国民党内民主进程能够大大迈进。
10月8日，蒋介石又被选为“国民政府主席”，下设行政、立法、司法、监察、考试五院，胡汉民任立法院院长。
上任初始，胡汉民轰轰烈烈烧起了三把火，着手制定《中国国民党训政大纲》、《中华民国国民政府组织法》，行政、立法、司法、监察、考试五院的《组织法》等。时人评论：“中央组织之初具规模，训政纲领之明确厘定，以及各种规章之树立，胡先生擘画之功亦甚显著。”
胡汉民忙着立法，蒋介石则忙着裁军，二人合作相当亲密，后因裁军问题引发的蒋桂战争、中原大战等一系列军阀混战中，胡汉民在南京指挥国民党所有宣传机构，用笔杆子对各地军阀进行讨伐，为蒋介石的军事进攻击鼓助阵。后世认为蒋介石在新军阀混战中能最终获胜，一靠张学良的枪杆子，二靠胡汉民的笔杆子——在“军队”和“法理”上都占了绝对优势！
党内民主之梦
作为立法院院长，胡汉民兢兢业业主持制定了许多法律、法规，有《民法》、《民事诉讼法》、《刑事诉讼法》、《公司法》、《保险法》、《工商法》、《劳动法》、《地方自治法》、《海商法》等15种，为南京政府构建了基本法律框架。
尽管胡汉民做到了“有法可依”，各级政府执法未必严格——尤其是独霸一方的军阀们，根本不把中央当回事，所谓法律条文也只是摆设。胡汉民无奈，自我嘲讽：“我所立的法，能实行的是哪几种？我不能说，能稍稍压抑枪杆子的威权，使有枪者有所慑服的，可断言其绝无。”
尽管别人视法律如无物，胡汉民却是以身作则，他坚持宪法中规定的“男女平等”观点，不讨小老婆，其夫人陈淑子只生了一个女儿，觉得对不起丈夫，劝胡纳妾，胡当即拒绝：“如果我能对国家民族尽忠，就是没有儿子，国人也一样的尊敬我；如果我不能为国家民族尽忠，就算有了儿子又有什么用处呢？”立法院某职员娶妾，胡汉民将该职员撤职。
胡汉民颇有书生意气，对蒋介石也多次批评，蒋为了拉拢冯玉祥，给冯的几位大将赏了系列党政官职，无非是委员、部长之类；冯玉祥与蒋介石翻脸后，老蒋又拉拢阎锡山，再次拿官送人；中原大战那会儿，蒋介石为拉拢张学良助拳，又将“全国陆海空军副总司令”相赠。
其实这都是政治家纵横捭阖的手段而已，胡汉民却认为蒋“干涉法统”：无论是政府官员、党内委员还是军队司令，一切都该按程序——先提名，再讨论，从而产生，地方违抗中央就是作乱，应该坚决镇压，而蒋以人情代法律，性质很恶劣，他公然对媒体道：“在一个政府的立场，不应该用这种拉拢凑合的卑劣手段？在过去，把这种手段施之于阎、冯，我已经反对；现在施之于汉卿（张学良），我也当然反对。我以为合作并不在分配官职，而且既然是一个中央政府，在‘中央’的名义下，对于国内的任何个人都谈不到什么‘合作’。”
蒋介石觉得胡汉民迂腐，也没把胡的话当一回事，两人逐渐有了分歧。
1930年9月，行政院长谭延闿意外去世，蒋介石从而兼任其职——蒋介石的“政府主席”是虚职，与胡汉民虽有抵牾，但二者工作交集不大，矛盾不至于激化，现在蒋插手政府，自然与胡时常磕磕绊绊了。
更严重的是，蒋介石想当“总统”抓实权，实行“美国制政体”。为了这个梦想，蒋设计了一个看上去很完善的策略：
一、笼络立法院长胡汉民，通过国民会议制定“大总统选举法”；
二、量身打造的“选举法”启动选举，“合法”当选总统。
胡汉民当然不乐意，蒋如果当上总统，胡手上的的权力必然会被慢慢收走，孙中山的“五权宪法”体系将被一人独裁所代替，胡汉民试图用孙中山的遗嘱压蒋：“‘务须依照予所著建国方略、建国大纲、三民主义及第一次全国代表大会宣言，定为效力等于约法的根本大法’。如果于此之外再要有所谓约法，那岂不是把总理的遗教一齐搁开另寻一个约法出来吗？”
不仅如此，胡汉民还利用立法院质询、审计大政方针的机会，极力阻止。他在1930年11月12日召开的国民党三届四中全会上，与吴稚晖等发生了激烈的争吵，还打了个比方：“欧战时候，法国飞行英雄回到巴黎，想试着开汽车，却撞死了群众。蒋介石就是个飞机师，汽车他不一定能开。”
胡汉民弄得蒋介石十分不快，蒋不动声色，让心腹陈果夫、陈立夫兄弟掌握的中央组织部派遣20多人到各省去暗中调查：如果展开国民选举，谁当大总统的几率大些。待结果反馈回来，蒋介石大吃一惊，他的选票只有三成，七成会选胡汉民。
蒋介石坐卧不安，觉得有必要将胡汉民弄倒，他先是动员国民党元老吴稚晖，让吴劝胡辞职，胡书生劲一来：“我绝对不会辞职的，要辞职也是他蒋中正先下来！”
考试院院长戴季陶出了个馊主意：“干脆一不做二不休，将胡汉民抓起来软禁，逼其辞职。”蒋介石斟酌一番，觉得只能如此，民国最怪异的场面由此出现：
1931年2月28日，蒋介石给胡汉民送去一张请柬，约胡到总司令部晚餐，胡汉民不知是计，欣然前往。到了司令部后，几个侍卫把胡带进一个包厢，首都警察厅长吴思豫递给他一封蒋介石的信，信中列举了胡汉民的5条罪状：1、勾结许崇智；2.运动军队；3.包庇陈群、温建刚；4.反对约法；5.破坏行政。
胡汉民十分气愤，大声道：“把老蒋找来，我要问他！”吴思豫冷笑道：“他不会见你的。”
蒋介石以莫须有之罪软禁胡汉民，在南京政府内引起一阵轰动，地方军阀也趁机起哄，通电指责蒋介石“违背总理遗言，当驱其下野”。蒋介石无奈，只好低声下气去见胡汉民，胡一见到蒋介石，便喝道：“你近来有病吗？”蒋莫名其妙，连说：“我没病啊。”胡紧追不舍：“那很好，我以为你发了神经病了！”接着，胡对蒋强加在他头上的“罪状”一一批驳，并责备：“你不对，只有我教训你，除我之外，怕没人再能教训你了。你不要以为我不敢教训你。”蒋介石理亏，又辩不过他，只是反复在心里咒骂。
尽管不服输，可人还是被蒋给扣住了，胡汉民气恼不过。接着蒋介石派兵将胡汉民押送至南京郊外的汤山软禁，胡当日写了两份东西，一是声明：“因身体衰弱，所有党部、政府职务，概行辞去。”一是写给蒋介石：“我平生昭然揭日月而行，你必有明白的时候……”过了一段时间，蒋又命令把胡弄到南京双龙巷住宅监视，首都警察厅派20个人持枪看守，不许外人接近。
胡汉民“辞职”无疑给了蒋介石一个好机会，这年3月，国民党中央通过蒋介石提出的“召开国民大会”之议案，同意胡汉民辞去立法院长职务，由林森继任。蒋介石的独裁统治初建规模，胡汉民的党内民主思想被彻底遏制。
尽管胡汉民争权失败，其亲信及反蒋势力却抓住了这一机会。
广州本是胡汉民的大本营，适时南天王陈济棠对蒋介石也颇有不服，力邀汪精卫回国反蒋，汪精卫得知胡汉民被扣一事也很兴奋，通电指责蒋介石：“一面摆酒请客，一面拔枪捉人，以国民政府主席而干出强盗绑票之行径，较之青霜剑中之狗官，有过之而无不及。”并表示与胡汉民尽弃前嫌，合作反蒋。桂系的李宗仁也加入反蒋的联合阵营中，两广反蒋局面形成。
两广厉兵秣马，蒋介石倒是真有点头疼，他不怕胡汉民一类的书生，但是不敢小觑地方军阀，迫于压力，蒋请胡出席5月5日的“国民会议”，胡汉民冷冷拒绝：“你不是有能耐么，何必拿我当幌子？”
蒋介石骑虎难下，硬着头皮召开“国民会议”，并操纵会议通过了《中华民国训政时期约法》，不过他也不敢当总统，“力表谦让”之后，继续“当选”为国民政府主席。
广州这边，旨在反蒋的“国民党中央执行委员会非常会议”（人数不足，只能叫非常会议），于5月底正式开幕，胡汉民派、汪精卫派、孙科派和两广军人陈济棠、李宗仁等会集一堂，集中在“护党救国”、“打倒独裁”的旗帜下，仿孙中山召开“非常国会”的先例，另立中央，成立“国民政府”。
非常会议决定，凡是国民党第一、二、三各届委员，只要愿意来反对蒋介石的，一律为非常会议的委员。汪精卫发表了宣言，认为蒋介石“假训政之名，行个人独裁之实”，并声名“再以政府名义，用任何方式名目，举借内债外债，一概认为无效”，而且大骂蒋介石“背党祸国，罪状昭著”，“一日不去，党国一日不安”。孙科也发表了通告，主张“一致倒蒋，重建党国”。
1931年5月28日，“广州国民政府”宣布成立，由汪精卫任主席，与南京国民政府正式对抗。
又被蒋、汪涮了
胡汉民虽被软禁在南京，广州方面却惟其马首是瞻，掌握兵权的陈济棠是胡汉民的学生——胡为了防止汪精卫做大，暗示陈济棠对汪“去皮存骨”，仅让汪精卫担任政府的光杆司令，不让他涉足兵权，汪派骨干分子陈公博、顾孟余也排除在政府外。汪深恨胡汉民限制自己，气得扬言要再次出国。桂系李宗仁和孙科太子派则各怀心思，两广内部矛盾重重，反蒋只是一句空话。
正当宁粤双方彼此攻击大打口水仗的时候，1931年9月18日，日本在我国东北闹了起来。“九·一八”引得全国震动，各界纷纷集会要求政府抗日。蒋介石在内外交困的情况下，为了缓和舆论谴责，致电粤方，要求“罢兵歇争，共赴国难。”
蒋介石分析了各派政治力量的情况后，决定一方面派人与反对派谈判，另一方面以退为进，假装让步，甚至不惜再次下野。他委托国民党元老蔡元培和与两广都有关系的陈铭枢代表到广州谈判，以“国难当头、团结合作”为由，建议在上海举行一个“和平会议”。
广州国民政府也想通过“合作”来改组南京政府，达到夺权目的。9月30日，宁粤双方在广州举行会谈，粤方提出三条主要条件：1、蒋介石下野。2、广州国民政府取消。3、由宁、粤召开统一会议，产生统一的国民政府。另外三条附加条件：1、释放胡汉民；2、开会地点在上海，不在南京；3、宁沪警备部队必须由保持中立的十九路军担任。
蒋介石知道不释放胡汉民，粤方代表是不会北上的。他于10月14日在张静江的陪同下去见胡汉民，并对胡说：“过去的一切，我都错了，请胡先生原谅，以后遇事，还得请胡先生指教。”胡汉民冷冷哼了声：“你还知道错啊。”
当天下午，胡汉民在吴稚晖、李石曾、张静江、吴铁城等人的陪同下到了上海，等待汪精卫、孙科等人。
汪精卫等到达上海后，立即会见胡汉民。汪装出一副谦虚诚恳的样子对胡汉民说：“中山先生在日本时，你就是老大哥，我就是小兄弟，现在经过多少离合悲欢，回想起中山先生，真是痛心！我情愿听老大哥的教训。”胡汉民很是自得，公然用老大哥的口吻批评了几句。然后胡、汪、孙（科）三人合照了一张相，表示从此要团结起来。
10月22日，蒋介石也到了上海，在孙科的住所与汪精卫和胡汉民等人会面，几个人假惺惺握手言欢。蒋介石还特别表示请汪精卫、胡汉民主持召开和平会议。
会议开始的时候，宁粤双方各不相让。胡汉民把蒋介石政府骂得一文不值，小日本都打上门了，“继续以无办法、无责任、无抵抗之三无主义为应付日本之唯一方针，则必国亡种灭而后已。”对于国民党，胡汉民也提出严厉的批评：“吾国民党执政多年，毫无建设，平日钩心斗角于对人问题，以至弄到如此，太对不起国民。若是这种甲起乙仆，对人不对事的观念不矫正，就是做到和平统一，依然不能免于亡国。”
蒋介石知道汪精卫与胡汉民有矛盾，便让宋子文暗中拉拢汪精卫：“广东要汪先生是只要骨头不要皮，我们南京要汪先生是连皮带骨头一起要。”顾孟余也建议汪精卫：“我们与其受地方小军阀的气，不如投降中央大军阀。”汪精卫权衡利弊之后，决定与蒋靠拢。
扯皮拉筋先后开了7次会，由于汪派不再坚持，胡汉民的粤方失去了选票优势，双方勉强达成协议：由南京和广州分别召开“国民党四全大会”，中央由宁、粤双方分别推举产生；南京政府改组后，广州政府即取消。
本来是一个“全国性”的代表大会，却硬生生一分为二在南京、广州两个地方开。
汪精卫投向蒋介石，无疑彻底得罪了粤方，李宗仁、陈济棠等一致指责汪，汪无趣，带着汪派分子均去了上海。
在广州主持“四大”的胡汉民觉得自己被汪精卫涮了，于大会上坚决重申：“宁粤合作必须以蒋介石辞职为先决条件”，如果12月20日前，蒋介石还不下野，广州“四大”产生的中央委员不赴南京开会。
蒋介石在南京召开了“四大”时，痛斥“要求中正下野”的论调，表示他要学习诸葛亮和岳飞，做到“鞠躬尽瘁，死而后已”和“精忠报国”。
更滑稽的是汪精卫，他召集的汪派代表二百多人在上海法租界又召开了一个国民党“四大”，这下“全国四大”分成了三个地方开了。
三个“四大”结束后，主要议程便是召开“四届一中全会”，此时蒋介石如再不下野，广州、上海两地的“中委”都不愿意到南京去。
蒋介石无可奈何之下，只得采用“以退为攻”手法，于12月15日通电宣布下野，在通电中说：“中正许身革命，进退出处，一以党国利害为前提，解职以后，仍当本国民之天职，尽党员之责任，捐糜顶踵，同纾国难，以无负总理之教训。”
蒋介石下野后，广州、上海的中委们纷纷来到南京。12月22日至29日，国民党“四届一中全会”在南京召开，代表南京、广州、上海三方的中委均出席，然而作为三方领袖的蒋介石、汪精卫、胡汉民却都没出面。
“四届一中全会”选举林森为国民政府主席、孙科任行政院长，同时决定“中央政治会议”不设专职主席，实行三驾马车制，即设常委三名，分别以蒋介石、汪精卫、胡汉民担任；“广州国民政府”正式通电取消。另外，会议还通过了广州“四大”所提关于设立西南执行部、西南政务委员会、西南军事分会的提案，这几点分别是胡汉民为两广争取的，意欲保持实力与南京方面抗衡。
“孙科内阁”本是蒋介石、汪精卫、胡汉民三方矛盾斗争的产物，自新内阁筹备之日起，蒋介石就筹划好了它的垮台。江浙财阀拒绝为新政府提供钱款，原财政部在部长宋子文带领下来了个集体散伙，使财政部剩下一个空招牌。孙科上台后政府支出不敷，一个月就负债1600万元。蒋介石指使军队三天两头要钱，孙科一筹莫展；蒋介石又指使何应钦有意向日舰挑衅，引起日舰几乎炮击南京，孙科吓得六神无主。
内政、外交均陷入窘境，孙科于是向报界抱怨：“以前五院对国府主席负责，现在行政院对中政会负责，而中政会三常委一直不来，行政院一切不能决定，故不免种种困难，盼望蒋、胡、汪来京主持大局。”
接着，孙科扬言要下野，撂挑子。
蒋介石见时机成熟，专程去找汪精卫，两人密商后，致电胡汉民“一同入京，协照哲生（孙科）及诸同志。”胡汉民却拒绝北上。
既然胡汉民不来，蒋介石与汪精卫正好上下其手，二人到南京后，马上展开了一系列步骤：孙科辞职，南京政府改组，新内阁由汪精卫任行政院长，宋子文为副院长。接着经汪精卫提议，蒋介石被选为军事委员会委员长。
汪精卫主政、蒋介石主军，胡汉民又被他们给踢开了，胡气愤之余公开宣布与蒋、汪决裂，公开表示蒋介石祸国殃民，应“自杀以谢天下”，自此寓居香港，宣传抗日反蒋。蒋介石在日记里骂胡汉民是“无人心至此”，“小人难养，与鸟兽不可同群”。
死于输棋
胡汉民拒绝参加南京政府，却让日本人很心动，特务头子土肥原贤二亲自到香港造访，想拉拢胡汉民出任东北伪政权主席，胡断然拒绝：“本人与蒋先生之意见不同，实系本国之内政问题，不容他国干涉。如谓本人欲组织政府，尤无此意。”直到1935年，蒋介石再向胡汉民示好，“希望先生能到南京”，胡汉民谢绝“鄙人与阁下政见不同，不到南京最好”。
蒋介石之所以想拉拢胡汉民，是因为胡在两广的影响力颇大，两广一直处于半独立状态，蒋介石打不下拉不拢，很是头疼。
1935年12月，国民党召开五届一中全会，蒋介石号召要“团结统一”，增设“中央执委常务委员会”主席，由胡汉民担任，蒋介石为副。胡汉民表示不去南京，但可以回广州，并向媒体表示：“政府应改造为有能力的政府，力矫过去畏葸苟安之错误，以负荷解国难建设国家之重任。”
晚年的胡汉民政治上无甚作为，而他的去世，却是因为一盘棋。
1936年5月9日，胡汉民一家到妻兄陈融体家吃晚饭，酒足饭饱后，胡兴致勃勃要与陈家的教书先生下象棋。
那教书先生显然是个高手，一连四局，胡汉民均输。当时已经是晚上八点，胡汉民不肯罢休，拉对手继续战，非要赢回一盘而不可。
第五盘开局不久，胡汉民棋处劣势，不由对着棋盘陷入长思。妻子知道他有高血压病，担心他过分疲劳，便说：“棋牌娱乐之道，不必如此认真。”劝胡算了，明天再下。胡汉民却很是执着说：“棋场如战场，岂能马虎了之？”
不料胡汉民沉思默想好一段时间后忽然晕倒，众人忙将他扶入屋内床上，并立即清医生诊治。医生诊断为用脑过度，右侧脑溢血。
当晚10时，胡汉民从昏迷中醒来，自知病情严重，遂口述遗嘱：
自追随总理，从事革命三十余年，确信三民主义为唯一救国主义，而熟察目前形势，非抗日不能实现民族主义；非推翻独裁政治，不能实现民权主义；非肃清共匪，不能实现民生主义。尤盼吾党忠实同志，切实奉行总理遗教，以完成本党救国之使命。切嘱。
不久，便溘然长逝，时年58岁。
胡汉民生前曾自制挽联：“抱道独能坚，险阻半生完大命；救亡空有愿，归来万里负初心。”居然一语成谶，他一直致力“党内民主”，却屡受挫折，可谓“抱道独坚”，去世时58岁，可谓“险阻半生”；“救亡空有愿”，意思是他力主抗战，却无能为力，回国本想做点实事，但大权一直在蒋介石、汪精卫手上，无疑“归来万里负初心。”
究根结底，胡汉民本质一书生。他去世后，国民党“西南执行部”和“西南政务委员会”致电国民党中央并通电全国，同时成立了由邹鲁、陈融、林翼中组成的治丧委员会。
13日下午，广州中山纪念堂举行公祭典礼。三天来广州参加公祭者共有40多万人。南京、上海、北京等地有追悼大会，报纸上刊登了汪精卫和蒋介石来自南京的祭文，大有猫哭老鼠的味道。
当时政府有意将胡汉民遗体葬在南京中山陵旁边，但胡妻陈淑子以路途太远而婉拒，最后决定葬于广州东郊龙洞，当时送葬的有数十万人，沿路商店均下半旗。香港大观影片公司全程拍摄送葬队伍经过，历时3个钟头。
胡汉民去世后，蒋介石趁机分裂两广联盟，陈济棠、李宗仁、白崇禧以“抗日救亡”为名，发动了反蒋的“两广事变”。蒋介石一方面调兵镇压，一方面发动银弹攻势，大肆收买粤军将领。粤军第一军军长余汉谋通电“拥护中央”，陈济棠的空军司令黄光锐也率飞机数十架投蒋，陈被迫下野去了香港。
接着，蒋介石调动大军进逼广西，李宗仁也动员十万兵力准备作战。由于全国上下一致反对，并经冯玉祥等人反复调停，蒋、李双方于9月达成协议，蒋介石接受李、白抗日救国的建议，两广事变和平解决。
胡汉民去世仅七个月，也就是1936年12月，“西安事变”爆发，张学良、杨虎城逼蒋抗日；1937年7月，卢沟桥战火起，抗战全面爆发。到了1940年3月，汪精卫伪国民政府在南京正式成立，汪任“行政院长”兼“国府主席”，成了最大的汉奸；1944年，汪精卫病死日本；1949年，蒋介石败退台湾，终老小岛。国民党“四届一中全会”的“三驾马车”胡汉民、汪精卫、蒋介石，结局竟如此迥异。
