罗斯福让马歇尔指挥欧洲战役的决心本是十分坚定的。他在给潘兴将军的一封信中说：“我们准备让他指挥的是这次战争中最大的作战行动。我认为他将担负的乃是欧洲战场的全部指挥任务，而不仅仅关系到某一地区。此外，英国三军参谋部将同他就一切事宜进行磋商。再者，我认为如果不给乔治一个亲临前线统兵作战的机会就太不公平了……我所能做出的最好的解释是，我想让乔治成为第二次世界大战的潘兴……”
然而，罗斯福总统无疑最后还是同意了潘兴将军的看法。这位身卧病榻的老将军在给总统的信中说：“……我们在打着一场全球性战争，离结束之日尚远，因此要由最成熟的军官担任参谋长一职，以便明智地把握战略方向。明达的军界人士一致认为，马歇尔将军正是这样一位军官。假若把他调往某个地区作战，则无论这个战场看上去如何重要，都将使我们因为失去这样一位深谙战略、任何其他人担任参谋长都无法同他相比……”
不错，马歇尔可以极其出色地指挥欧洲战役，但是谁又能顶替马歇尔充任美国全球军事行动的指挥者而且指挥得如此出色呢？罗斯福最终还是把马歇尔留在了陆军参谋长的位置上。
最后，经总统批准，马歇尔委任了艾森豪维尔将军任盟军最高司令，指挥“霸王”战役。
1944年1月3日，美国《时代》周刊的封面上赫然登载出马歇尔将军的照片。周刊选他为“本年新闻人物”，称他为“祖国的托管者”，“不可或缺的人”。周刊写道；“作为一位文明美国人，他赢得了全世界的尊敬。乔治·卡特利特·马歇尔将军有资格代表死难将士接受本国人民的感激之情。”
无论何人，只要去五角大楼走一遭，就很容易理解为什么总统认定必须把马歇尔将军留在华盛顿。别人很难胜任此刻压在参谋长身上的繁重工作。自马歇尔于1939年接任参谋长以来，这项职务的责任范围之广，都大大超过往日。如今，300名官兵直接在参谋长手下工作，他必须每时每刻都能了解战局情况，盟国的想法，敌方的计划，总统的打算，国会的意图。
马歇尔在权力下放方面做得非常彻底。他的原则是：委派最合适的人选负责某项工作，然后就放手任他去干。如果干的出色，他会咕哝两声表示赞许，如果不称职，他就请他走人。他了解下属的全部活动。他要求自己每天掌握手下工作人员厌掌握的所有情况，因此他规定，任何部下都可以直接向他报合任何事情。
“马歇尔从不拉帮结伙，”副参谋长汤姆·汉迪将军说，“人们可以同他争辩。只要你完成了工作，一切都好商量，他脾气上来，也十分粗暴，有时厉声痛斥，有时冷若冰霜。可是，他能长时间听人介绍情况，记忆力之强令人吃惊，甚至小事也不漏过。有一次，他去国会参加一个委员会会议，议员们就某些次要但复杂的事项提了一些敏感琐细的问题。他从容不迫，滔滔不绝地作出了权威性的回答。我问他怎么竟能记住这么多细节，他说：‘我是从近几个星期军官们所介绍的情况中摘出来的。’”
马歇尔掌握情况的主要渠道之一，是每天上午9时准时在他的会议室里开始的情况介绍会。他颇以他搞的这个介绍会为自豪，也使世界各地美军和盟军司令部的指挥官们羡慕不已。马歇尔后来回忆说：“对于我和其他主要负责军官来说，掌握世界局势进展状况具有越来越大的重要性，因为各战区同时作战。国内形势也是风云多变。我们有着许多颇具才气的专家，于是便以一帮口才很好的年轻军官为基本力量，逐渐搞成了每天上午的情况介绍会。他们每天清晨4点起床，对前一天晚上收到的电报进行综合整理，9点钟准备就绪，按时开讲。”马歇尔还说，“他们后来很精于此道，把情况介绍会搞得真是令人惊叹。你可以看到整个战局的最新发展——从某种意义上讲，战局情况变得易于了解了。”
有一次麦克阿瑟将军派拉福莱特上校前来华盛顿照例向马歇尔提出一些不切实际的要求。马歇尔请上校参加情况介绍会，听一听世界战局的情况，听得上校目瞪口呆。会后，拉福莱特上校再没提麦克阿瑟的要求，举手给马歇尔敬了个礼，默默地走了。马歇尔后来写道：“情况介绍会使他意识到战争规模如此之大，我们的‘全球’需要如此；之多，因此完全改变了他的想法……他开始现实地观察整个局势了。”
在一天的工作时间里，马歇尔阅读报告，写备忘录，听取情况介绍，接见来访者，出席国会作证；晋见总统，制定影响战争进程的重大决策。他不断用铅笔在官方备忘录空白处潦草地写上各种意见、指示。总统向国会宣读的战争进展情况报告大多出自马歇尔的手笔。
马歇尔的工作繁忙而复杂。他曾对艾森豪维尔说，对于像他这样一个在世界各地都负有责任的参谋长来说，越是接近胜利，事情越难处理。四处都在发生争吵，各军种之间在吵，政府和军队之间在吵，盟国之间吵得尤其不可开交。
1944年6月6日，美英军队在诺曼底登陆后（参见诺曼底战役），美军将领认为英军最高指挥官蒙哥马利一心想唱主角，因而对他十分不满，双方矛盾重重。马歇尔站在战胜敌人的最高立场上，必须不偏不倚地处理各种矛盾，使盟军协力胜敌。协调美军与友军的关系也正是马歇尔的主要责任之一。他不断提醒盟国欧洲远征军最高司令艾森豪维尔说，将军们都容易变得“虚荣自负”，绝不要忘记，“蒙哥马利差不多是英国唯一的英雄”，所以不要和他找麻烦。
此时，每个战场都酝酿着纠纷，许多危机需要平息，许多歧见有待消除。太平洋、地中海、西北欧，每天都有许多问题需要解决，而有些问题决非一天半天所能解决。
在太平洋战场上，一路杀回菲律宾群岛的麦克阿瑟将军不断向参谋长要人要物，而海军是千方百计不让马歇尔去注意菲律宾。这样，马歇尔就首先要说服参谋长联席会议其他成员，承认菲律宾群岛是合理的军事目标，应给予大力支援，而另一方面他又要让麦克阿瑟了解，从全局出发，不可能对他有求必应。
在中国战区，马歇尔不得不撤换他的司令官史迪威将军。这不是因为这位将军缺乏指挥才能，而是因为他对中国的蒋介石和东南亚英军司令蒙巴顿蔑视而不恭，口出妄言。马歇尔只好忍痛将他革职。
马歇尔清楚看到，在抗击德国和日本法西斯的战争中，美军并非孤军奋战，他必须倚重、倚靠甚至倚赖友军，才能取得最后的胜利。在欧洲战场上，他始终要求艾森豪维尔遵循他的指示，打败德军，赢得胜利，同友军保持良好关系。在欧战的最后阶段，一些美军将领要求抢在苏军之前攻占柏林，丘吉尔和蒙哥马利也坚决反对放弃柏林，认为这等于西方把宣传上的一个大胜利白白丢掉了。但是马歇尔顶住了这股压力。在他看来，放弃柏林完全是一种军事决策。在罗斯福总统刚刚去世，杜鲁门总统刚刚上任之际，他必须以军人的方式进行思考，做出这种符合军事逻辑的决策，由苏军攻占柏林。马歇尔和艾森豪维尔不能忘记，苏联还是西方的盟友。
“是的，我认为我们当时不应当攻占柏林，”马歇尔后来写道，“必须记住，我们那时正在努力和俄国人打交道。我们一直同他们并肩作战。他们是我方武装部队的组成部分——非常坚定的一部分。他们在战争中起了极大的作用，削弱了德军力量，对所有这些，我们都要好好加以考虑。在战争快要结束的时候，他们变得非常敏感，时刻在注意是否有迹象表明英国人和美国人打算背着他们决定战争的结局……”
1944年12月，马歇尔受领五星上将军衔。
1945年5月8日，纳粹德国终于被打败了，德军向盟军和苏军无条件投降。这时马歇尔已快满65周岁。他虽然体力尚好，但心力却不济了。战争几乎绞尽了他的脑汁。自1941年以来，他每天都要拍板决策，而每个决策几乎都关系到人的生死和国家的存亡。随着战事的扩大，他对全世界所负的责任也加重了，烦恼和忧虑更是有增无减。他是参谋长，不敢有丝毫懈怠，不敢露出丝毫的犹豫。无论是谁，无论是总统、国会、盟国、还是美国人民和将士，都需要有这样一种信心：任凭混乱，至少马歇尔方寸未乱，能够作出决策，争取胜利。在那前景暗淡、形势险恶的时刻，人们把他视为中流砥柱，相信只要跟他站在一起，就能化险为夷。正如英国百慕大总督夫人玛丽·伯利在1945年春天给他的信中所说：“你前往欧洲途经百慕大时，我们曾一道进餐。记得我当时想，你会加速胜利的到来，这使我对一切都充满了信心。你一定收到过许多类似的信，但是我还是要向你表示祝贺，祝贺杰出的陆军取得的辉煌战果？我还要说，我们极为钦佩陆军的缔造者和指挥者，我们完全认为他替我们赢得了渴望已久的胜利。我还有千万句赞美的话要说……”
此时，欧战胜利了，希特勒死了，纳粹军队投降了，马歇尔终于可以松一口气了。他一心想卸下参谋长的重任。好像为了提醒他解甲归田的时候即将来临。波茨坦会议期间有人捎来一篮子土豆、莴苣、胡萝卜、蚕豆、卷心菜，都是来自弗吉尼亚州多多纳家里菜园的东西，这是他后婚的妻子凯瑟琳给丈夫的明显暗示：现在是他回家种花务农的时候了。
但是，对日战争还没有结束，马歇尔还不能休息。又过了3个多月，到8月，在中国、美国、苏联和其他各国的共同打击下，日本被彻底打败了。8月15日，日本天皇在电台上亲自宣读了《停战诏书》，宣布无条件投降。美军占领了日本。9月2日，在停泊于东京湾的美国“密苏里”号战列舰上举行了日本投降签字的仪式。
第二次世界大战结束了。
这年夏天英国首相丘吉尔给马歇尔将军写了一封信，对他在这场战争中所做的贡献给予了高度赞扬：“你之所以能够统率这支浩荡大军，绝非偶然。是你，受命于危难，起而创建这支军队，组织这支军队，激励这支军队。由于你领导有方，不消多日，部队就建立起来，日臻完善，终于横扫法德全境。你不仅创建了野战大军及辅助部队，还造就了大批指挥人才，他们驾驭现代化兵种和军团的庞大有机体，迂回转战，以无比的速度调遣运动，几乎是哪里需要，哪里就涌现出这样的指挥官……这些年来，足下的勇气和精力在我心中激起的尊敬和，景仰正与日俱增，你的所作所为对于与你共患难的同志，真是一种绝大的安慰，而且请不要忘记，我本人也希望是其中的一员。”
1945年8月20日，马歇尔给杜鲁门总统写信要求卸任：“现在战争已经结束，军队正积极复员，有关削减军备生产的重大军事决策已经作出，战后军事计划也进入相当深入的阶段，现在我觉得，我可以心安理得地要求辞去参谋长这个职务了。”马歇尔信中还写道，“我在陆军部服务7年有余，其中6年任参谋长，深知任务之艰辛繁重，如能获得解脱，则幸甚矣。”最后马歇尔提名艾森豪维尔继任参谋长。
杜鲁门总统考虑了一些时候，终于接受了马歇尔的辞呈，但要求他干到秋天。
1945年11月，总统在白宫为马歇尔举行了告别仪式，在他佩戴的军功章旁边添上一簇橡树叶章。总统亲自宣读了嘉奖令：“在这场就规模和恐怖程度而言都是史无前例的战争中，数百万美国公民曾为祖国立下了殊勋，而五星上将乔治·卡·马歇尔奉献的则是胜利……他的品格、作为、效率鼓舞了全军、全国、全世界。美国之得有明日，实有赖于马歇尔和千百万人民。他于世间大将军行列中卓立前茅。”
仪式结束后，杜鲁门总统把马歇尔拉到一边，祝他退休生活安适，愉快长寿，还保证说：“将军，你已经为国家做了这么多的事情，我不会在你退休以后再来打扰你的，你该好好休息一下了。”
但是杜鲁门总统食言了。10天后，他给马歇尔打了电话：“将军，你愿意为我到中国跑一趟吗？”
1945年12月，马歇尔作为驻华特使抵上海，负责“调处”国民党与共产党的关系。1946年11月军调失败，他返回美国。
1947年1月，他出任国务卿，6月提出“欧洲复兴计划”，人称“马歇尔计划”。1949年1月辞去国务卿职务。1950年9月至1951年9月任国防部长。1953年获诺贝尔和平奖。
1959年10月16日马歇尔病逝。全美国举哀一日。他留有遗言：“简葬我，一如军中忠诚为国之寻常将士。切忌铺张。典式毋盛。追悼会宜简，到场只限族亲，尤须悄然为之。”葬礼按其遗言进行。其肃穆、简朴，有序无哗，宛若乔治·卡特利特·马歇尔生平指挥作战之状。
这位为打败法西斯建立了丰功伟绩的一代英才静静地长眠于阿林顿公墓。