1946年3月27日，东三省才接受《东北停战协定》。但4月1日，蒋介石以对东北行使主权为借口，继续发兵东北，进犯东北民主联军。5月间，杜聿明所部进犯四平街、长春、永吉等众多大中城市。至6月底，进占东北的蒋军精锐之师约达八个军和十几个机械化团。
军调处下属26个执行小组。除广州小组完成了把境内中共军队调往烟台外，其他小组都未能正常活动。如徐州、济南、新乡小组的中共代表竟被扣留；青岛小组的中共代表被殴打；承德小组的中共代表被炸死四人。
如同在五角大楼时一样，马歇尔在中国的每一周都安排得满满的，要同各类人士会谈：共产党人、民主同盟、青年党、国民党政府的各色人员、美国大使馆人员，中国政府雇用的美国人；组织召开接连不断的谈判会议；对各种有害谈判、促成停战、实现联合的事件进行调处……
1月31日，政协会议通过了中共提出的《和平建国纲领》五项提案。内容如下：
一、国民政府委员名额增加为40人。经国民政府选举，其中半数由国民党人充任；其余半数由其他党派和社会贤达充任。其分配另行商定。国民政府委员会为国民政府最高国务机关。
二、民国三十五年五月五日召开国民大会，制定宪法。国民代表大会定额由现任的1200名增加到2050名。宪法之通过，须由出席代表四分之三的同意。
三、和平建国纲领之要点为：尊奉三民主义为建国之最高指导原则，在蒋主席领导之下，建成统一、自由、民主之新中国。
四、军队属于国家，任何党派及个人，不得利用军队为政治斗争之工具。
五、组织宪法审议委员会，起草立法、司法、监察、考核、行政分立的“五权宪法。”
各党派的国民政府委员数目的分配未能达成协议。蒋介石要将各党派委员压在14名以下，从而使其他各派绝对控制于国民党之下。对此中共不能同意，并提出中共和民盟的名额共为14名，据有三分之一以上名额，从而具有否决权，以制止国民党一党专政。对此，蒋介石绝对不予让步。
五项提案通过后，蒋发表谈话，表示完全拥护，并说此“乃是全国性”的，要全国各党派“共同遵行。”
2月10日，国民党特务在重庆校场口殴打参加庆祝大会成功的各界人士，打伤郭沫若、李公朴、施复亮等60余人，并逮捕许多到会工人；同月21日，北平竟有特务组织反共示威，沿途高喊“打倒共产党”、“取消解放区”，“民主联军不容存在”等口号，并捣砸《新华日报》、《民主报》社，打伤工作人员。此后，其他各大城市也接连发生类似事件。
关于军队问题，由于蒋介石一再坚持中共必须交出其军队的立场，因而未能达到协议。以后，在中共的积极努力和马歇尔的压力下，蒋才作出让步。2月25日，在马歇尔主持下，三人小组通过了整军方案，共两项：
一、国民政府主席为中国陆海空军最高统帅。最高统帅有任免所属军官之权，但在整编军队过程中，撤免中共军队之高级军官，应由派在政府中之中共代表所提名之军官替补。
二、陆军之编制，在一年之后，全国军队编为108个师，其中中共军占18个师；一年半之后缩编为60个师，其中中共军占10个师。
军队配置（一年后）：东北6个军，中央军5，中共军1，每军辖3个师；华北方面11个军，中央军7，中共军4；华东方面10个军，中央军9，中共军1；西北5个军，华南4个军，均为中央军。
2月28日，蒋介石写道：“马歇尔对余之认识渐增加，然其受共产党麻醉日甚。美国民族之易受人欺诳，甚老练如马氏者尚且如此，其他更可知矣。不禁为世界前途忧也。”他说：“与中共商定统编其所属部队为18个师之方案，业已签字。此为政府最大之损失。”
同日，三人小组赴北平、张家口、延安、汉口等地视察共六天。3月11日，马歇尔应召返回华盛顿述职。
4 难解残局
马歇尔返美后，蒋介石立即召开二中全会，开始对五项方案进行修改，提出“不应以种种问题束缚领袖。”对已签订的军队整编方案也不再承认，要扩大其整编的军队员额为347万人。4月1日，对政治协商会议也不予承认。他说：“政治协商会议在本质上不是制宪会议。如政治协商会议果真成为这样一个性质的会议，我的政府是决不承认的。”
从1月10日停战至5月20日，蒋介石命令其军队向关内各解放区进犯共达3630余次之多，投入兵力 258万人，强占城镇26座。对此，中共军队在各地予以反击，并接收了东北中、北部主要城市。苏联开始表现出对中共的一定援助。形势对蒋不利。
苏联于1945年8月8日出兵东北，一周后，蒋介石即令熊式辉为东北行营主任，蒋之子蒋经国为外交特派员；杜聿明于11月中旬督师进占山海关。12月15日，蒋经国应斯大林之邀赴苏联访问，以蒋介石私人代表的身份与斯大林会谈。斯大林对小蒋说：“你们中国人要明白，美国人想要利用中国作为满足他们利益的工具。在必要的时候，他们会牺牲你们的。苏联愿意把本国生产的机器、汽车以及中国所没有的东西供给中国，同时也希望中国把自己生产的矿物、农产品供给苏联；苏联又可以帮助中国在东北建立重工业，并发展新疆的经济。但是，我再三声明，也是我最大的一个要求：你们决不能让美国有一个兵到中国来，只要美国有一个兵到中国来，东北问题就很难解决了。”
与此同时，在莫斯科召开的外长会议上，苏联外长莫洛托夫向美国国务卿提出建议：同时宣布美国自华北、苏联自东北的撤军日期。美国人认为当时规定日期太早，因而拒绝了这个提议。苏联当然也不撤军，苏联原定在日本投降后三周内撤军，最迟不超过三个月。但因美国海军陆战队于9月下旬在青岛、天津登陆，而延缓其撤军日期，至年底仍未撤军。后经中苏双方协商，苏联答应于1946年2月1日撤军。
1945年11月24日，苏联方面向中国表明，日本建立的东北工、矿设备作为战利品归苏联所有，其余154家企业应由中苏共管。12月7日，更严厉地表示“除非此一经济合作问题获得解决，否则苏联自东北撤军日期将不能预测。”1946年2月1日，苏联再度表示坚持中苏经济合作，并不许第三国参加。
美国国务卿贝尔纳斯对苏联把日本在东北的企业作为战利品表示反对，他说：“苏联以东北企业为其战利品，实为逾越国际公法范围之外。”2月9日，美国又照会中国：（1）东北焦ひ涤芍兴展补埽 宋シ疵呕Э7诺脑 颍唬*2）日本在国外的财产，应由盟国组织日本赔偿委员会作最后分配之决定。在此点上英国与美国步调一致。2月16日，美国国务院发表声明：“并无承认苏联运走东北工业设备的协定。”
3月27日，苏联向中国正式提出《中苏经济合作建议草案》，坚持共同经营东北工业。蒋介石的外交部长王世杰予以拒绝。但东北工、矿企业终被苏联掠走70%至80%。3月间，到沈阳、长春访问的美国记者被苏军赶走。此事引起美英的强烈反应。蒋介石说：“丘吉尔在美演说，主张美、英同盟，强调英语民族间合作之力量准备对俄作战，几使人有第三次大战即将来临之感矣。”
自美国陆战队在中国东部沿海登陆后，苏联人相信美国也想独占中国，便一面延缓撤军，一面把缴获的部分日军武器送给中共，并允许中共军队进入东北，组成东北民主联军，对中共给予一定的援助。对此，蒋介石认为，斯大林想在东北建立中共政权，分割东北，于是，便加紧向东北调兵遣将，侵占铁路，进攻城市，抢夺地盘。
马歇尔回到华盛顿后，总统和国务卿对他在华的工作成就给予高度评价，就连一直坚持“这是一项不可能完成的使命”的魏德迈，也不得不对马歇尔深表钦佩。3月11日，他在给艾森豪威尔参谋长的信中写道：
他干得好极了，很快就赢得了所有和他接触过的人们的尊敬与钦慕。他顺理成章地处理当前的问题，首先是实现停火，现在正顺利地执行一项将统编中央政府和共产党军队的计划。所有这一切都是在阴谋、猜疑、自私和东方式的奸诈的背景下完成的。确实是一项了不起的成就，我真地怀疑世界上是否还有别人能在这么短短的时间内做那么多的事。然而在我想来，他这些成就能维持多久，要看他本人在不在现场。假如他在以后几个月内不露面，我认为敌对双方很快就会拼个你死我活，重新回到去年10月的形势。马歇尔将军的国际威望以及他本人一出现，就能控制住局势并能使共产党和中央政府的代表采取和解的行动。
一些了解实情的好心人，出于对马歇尔将军名誉的爱护，此时却提出建议，希望马歇尔将军见好就收，不要再返回中国，因为他们深信，国共两党水火不容，促成联合几乎没有希望。
4月17日，马歇尔携夫人凯瑟琳从华盛顿飞回北平。马歇尔听了军调处的汇报后，于19日飞抵重庆。
马歇尔向蒋介石表明，双方应继续会谈，停止冲突，促成联合。蒋介石则继续对马歇尔积极游说，劝美国积极支持他尽快占领东北，避免重蹈1931年美、英对日采取绥靖政策的旧辙。对此，马歇尔感到不能理解，并表示气愤。
国共双方重开谈判，马歇尔又投入昔日繁忙的事务之中。他写道：“我现在经常是成天泡在一个接一个的会议之中，非常累人，非常棘手。但是，会议讨论的问题都是至关重要的。我寓所办公室的工作人员简直忙得不可开交，又回到了昔日每天工作10至14个小时的战时生活了。”
1946年5月5日，国民政府还都南京。马歇尔夫妇住在南京一所大院子里，除他们的住室外，还有使团工作人员的住宅以及办公场所。二层楼有一间工作人员的大会议室，也可作为娱乐室，晚上常在此放电影。
7月中旬，马歇尔夫人应蒋介石和夫人宋美龄之邀前往牧岭（南京以西约250英里）避暑地做客。凯瑟琳住在一所宽大舒适的别墅里，有仆人、小游泳池和花木。马歇尔给一位朋友写信说，蒋夫人对凯瑟琳“非常钦慕和热情。”去牧岭并不容易，坐飞机要一个多小时，然后乘船沿江而下驶行约40分钟，接着要坐30分钟的汽车，最后坐两个小时的轿子，沿着山边凿出来的石阶上山。在夏季谈判期间，马歇尔常去那里。
马歇尔为他先前所做的众多工作受到挫折感到沮丧，但又必须尽力压抑住心中无奈之感。在如此舒适甚至富于魅力的环境中消磨时光，他或许能感到愉快一些。不过这种家常情意也许使蒋介石不再把马歇尔的严厉警告放在心上，他可以稍微放心大胆地去指挥军队了。
5月19日，蒋军攻占四平街；23日占领长春，尔后又侵占了吉林、农安。6月3日，苏军已完全撤出东北。
此时，马歇尔仍一如既往地力主双方停战，不停战就终止援助，蒋迫于美国的压力，被迫答应停战。6月7日，蒋宣布为期15天的全面停战。6月20日，周恩来发表声明，反对马歇尔的“最后决定权。”
与此同时，蒋介石要中共军队撤出陇海路以南、胶济全线、东北大部、承德以南诸地区，以及山东、山西两省的部分地区。并警告说，如不服从，就付诸武力。中共当然不会受蒋的胁迫。
1946年6月26日，蒋介石下令向中原地区中共李先念部发动大规模进攻；7月12日，蒋军55万人向苏皖解放区进攻。全面内战终于爆发。
马歇尔把中国的危急情况报告给杜鲁门，并建议对蒋采取措施。8月10日，杜鲁门致电蒋介石，表示蒋如不停战，美国将重新考虑对华政策。8月14日，蒋公开表示要军队“国家化”，并要中共退出解放区。18日，美国停止对蒋支援军火，逼迫蒋坚持和谈。蒋对此极为不满，他在日记中写道：“美国始终坚持其不用武力的主张，而置我国存亡于不顾，至可痛惜也。”
杜鲁门感到马歇尔的使命该结束了，因为他在中国呆的日子越久，对他的国际声誉就越有损害。总统已决定让马歇尔出任美国国务卿，并通过艾森豪威尔征求了马歇尔的意见。马歇尔接受了这一任命，同时表示，中国情况虽在恶化，但他不想就此罢休，希望再作进一步的努力。杜鲁门只好同意了他的请求。
8月29日，蒋军攻占了承德。马歇尔尽力调和双方纷争，但不见任何成效。此时，蒋介石已决定彻底摆脱马歇尔的控制。他经常十几天不露面，忙于部署军事战略。9月中旬至10月上旬，周恩来多次致函马歇尔，指责美国政府已为国民党政府提供总计52亿美元援助，已大大有助于蒋介石进行内战，谴责蒋介石政府不顾一切约束，撕毁停战协定，向关内大举进攻。马歇尔深感形势已进一步恶化，左右为难。
蒋介石决定将单独召开“国民大会”，并于10月16日发表八项建议，主张按两军现地协商军地的分配。17日，毛泽东发表《时局声明》，历述中共诚意，并呼吁再次会谈，主张恢复1946年1月13日以前双方军事态势，实现政治协商会议决议。
10月18日，蒋介石召开南京秘密军事会议，宣布“五个月内打垮共军。”同时，蒋却对外宣布：自11月11日午时起全面停止战斗。
中共与民主同盟反对召开一党包办的、不代表民意的国民大会，并拒不参加这个大会。11月12日蒋介石单独召开“国民大会。”12月26日，陈诚在“国大”代表招待会上宣布“一年内消灭中共。”同时，蒋介石通过外交部发表声明：中国政府要求美军留驻中国大陆。30日，蒋发出了第七十号密令，部署了1947年上半年度的进兵计划：为“打通陇海、津浦、同蒲、平汉与中、东满铁路诸线，肃清晋、冀、鲁、豫、陕等地境内股匪。”
1946年12月底，蒋调动了218个旅（占其全部兵力的90%）进攻解放区。大规模内战已经开始。
马歇尔眼看大规模内战全面爆发，无可奈何地宣布“调停”失败，于1947年1月8日返回美国。29日，美国宣布退出“军调处。”
5 初掌外交
美国国务卿贝尔纳斯因心脏病提出辞职。1947年1月6日，杜鲁门正式任命马歇尔担任国务卿。早在1946年7月，马歇尔就提名一位老中国通司徒雷登任驻华大使，并得到总统和参议院批准。
任命马歇尔为新国务卿，当时在美国政界和公众中的反应是良好的。人们深知，在刚刚结束的世界大战中，他指挥若定，组织有方，为国家赢得了胜利。政府官员赞赏他是一位虚心听取内行意见的专家，他得到了多数政治家们的信任。
曾一度当过国务卿、马歇尔的老上司、前任陆军部长史汀生，1947年1月10日在给他的信中写道：“你出任国务卿，就使我在国家前途问题上有了一种莫大的安全感。杜鲁门先生作了一项非常明智和独具慧眼的任命。”
对马歇尔的任命公布后，有人认为，他最有可能充当未来的总统候选人。但马歇尔不想惹此麻烦。他在华盛顿联邦车站的月台上接受记者们的提问时表明了态度：
