参与领导卢顺起义后，1927年7月11日，刘伯承经陕西、河南，辗转来到武汉，并临时下榻在汉口大智门国民党四川省党部办事处。听说刘伯承抵达武汉，大智门国民党四川省党部办事处立刻变得热闹起来，车水马龙，宾来客往。其中有川军的袍泽故旧，有武汉的党政军要人；有左派，也有右派；有共产党人，也有蒋介石、汪精卫的说客。据7月12日武汉《民国日报》报道：“刘氏为川中革命军事领袖，此来对于川省今后军事，必有伟大之计划。刘抵汉后，各地同志赴寓所慰问者，络绎不绝，刘身御蓝布长衫，态度和蔼可亲。闻刘氏拟于日内亲向中央报告死守泸州经过及出川情形，并闻刘氏对于川事，亦将向中央有所建议云。”这里所说的“中央”，系指武汉国民党中央党部和武汉国民政府。
刘伯承向“中央”汇报后，只得到“军委会”一番空洞的“嘉奖”。回想起，来汉沿途中，亲眼目睹英、美军舰兵列长江沿岸，对武汉政府施加强大压力；蒋介石与冯玉祥在徐州会晤后，宁汉合流的趋势一天比一天明显。他感到武汉的情况也越来越不对头。汪精卫主张“分共”，第三十五军军长何键将在武汉捕杀共产党的风声，越来越紧。眼看血雨腥风就要降临武汉城头。兼有国民党党籍和共产党党籍的跨党分子，都面临着一种抉择：向左还是向右？是继续坚持革命，还是与蒋介石、汪精卫同流合污？留在共产党内，还是留在国民党内？刘伯承密切注视着局势的发展，思考着自己应走的道路。
为求得对局势的透彻了解，刘伯承偕参谋长韩百诚去拜访吴玉章。吴玉章当时是武汉国民政府5人行动委员会委员之一。在国民政府的办公室，刘伯承与自己的入党介绍人促膝长谈。吴玉章告诉他，根据共产国际的指示，撤销了陈独秀的总书记职务，改组了中央领导，指定张国焘、周恩来、李维汉、张太雷、李立三等5人组成临时中央常务委员会，领导今后的斗争。至于国民党内，虽然宋庆龄等左派力主遵行中山先生的三大政策，但在帝国主义及其走狗蒋介石的威胁利诱下，武汉方面的右翼军人杀机渐露，汪精卫集团的叛变恐怕为期不远，要做好应变的准备。
实际上，这个时候，党中央也一直关注着四川的革命斗争。中共中央军事部部长周恩来得知刘伯承已到武汉，即召集他和吴玉章、黄慕颜、李嘉仲等座谈，听取他们对时局的看法和意见。
7月15日，传来了武汉国民党秘密召开“分共”会议的消息，兼有共产党党籍的吴玉章等国民党中央委员均被排斥，不得参加。在汪精卫主持下通过了“分共”的决议案。至此，国共两党的第一次合作，便以蒋介石和汪精卫为代表的国民党右派的叛变而告结束。
刘伯承心中有底，遇变不惊。他闭门谢客，深居简出，听候党的召唤。
他的公开身份是武汉政府委任的暂编第十五军军长，安全是不成问题的。这期间，有人劝他回川，与四川军阀合作，将来或可跨州连郡，雄踞一方；汪蒋派来的说客，各为其主拉他入伙，说凭他的军事才干，高官厚禄真如探囊取物。对于这些来客，刘伯承虚与委蛇，以久战之后，身体疲惫，急需休养为由，一一谢绝了。
而在这时候，党中央决定发动南昌起义。周恩来临危受命，负责组织领导起义筹备工作，急需一个军事上的得力助手。这个人既要有秘密组织大规模兵暴的经验，又要有丰富的作战指挥经验。周恩来反复考虑，选中了刘伯承。
刘伯承坚决听从共产党的指示，接受了党的任务，迅速乘江轮前往九江，参与擘画南昌起义。为了迷惑国民党右派，掩护南昌起义的筹备工作，刘伯承特别在武汉《国民日报》发表消息如下：“暂编第十五军军长刘伯承、副军长黄慕颜，先后来汉向中央陈述与川中反动军阀奋斗情形，极为中央嘉奖。近刘军长因病，特向军事委员会请假调养，其职务交黄副军长代理，已蒙军委批准。”
刘伯承到达九江后，首先与吴玉章取得联系。当时在九江的吴玉章，主持国民党中央办事处，以接应前往南昌的中共的重要干部和国民党左派人士。刘伯承到九江，就住在吴玉章处。
对于刘伯承的到来，吴玉章是非常高兴的。他想到一年多以前他和杨闇公介绍刘伯承入党，为党延揽了这样一位不可多得的将才，心中暗暗地感到欣慰。
到7月底，随着周恩来、贺龙、叶挺、朱德、刘伯承，以及李立三、恽代英、彭湃、林伯渠、吴玉章等先后进抵南昌，起义的发动已经箭在弦上了。
