同年八月，曹丕册封孙权为大将军、封吴王，并委派太常邢贞出使东吴，孙权前往迎接。而邢贞见到孙权之后，面露骄色，到了宫门也没有按照礼仪下车与孙权相见。这时候，张昭面带怒色呵斥邢贞：“礼仪得到尊重，法度才能贯彻实施，而你居然妄自尊大，难道是认为我江东人寡势弱，连一把用来执法的小刀都没有吗？”张昭身后的东吴大将徐盛更是愤怒地对身边的东吴文武说道：“我们这些人没能为孙将军夺取许昌、洛阳，吞并巴蜀，这才使得他不得不与邢贞这样的小人盟誓，这简直就是我们这些人的耻辱！”张昭和徐盛的言语顿时让邢贞收敛了狂傲之气，乖乖下车按照礼仪与孙权相见。事后邢贞还对手下人说：“江东有这样的将相，绝对不会久居人下！”这一回张昭表现出了江东老臣的风采，维护了东吴集团的尊严，也博得了对手的称赞。
不过，尽管张昭在外交场合的表现卓着，获得了东吴上下的一致称赞，但是在东吴集团内部，张昭的日子却不那么好过。
孙权受封吴王之后，依律要设置丞相一职。东吴的文武百官都认为只有张昭这位德高望重的老臣才能担当此任，可孙权却安排无论资历、能力都不如张昭的孙邵担任了丞相一职。孙权的解释是担任丞相不但事务众多，而且责任重大，对张昭这样的老臣没什么好处。孙权这话显然只是个托词，后来孙邵病逝，文武百官再一次提出让张昭担任丞相一职，这时，孙权才说出了心里话：张昭性情刚烈，如果由他出任丞相之职，万一出现自己与张昭意见不一致的时候，张昭容易产生不满情绪，滋生怨恨，不利于国家政策的制定和实施。于是，第二任的丞相也没落到张昭的头上，而是授予了江东名士顾雍。孙权受封吴王，张昭并没有得到丞相这个众望所归的职务，只是被授予了一个绥远将军，封由拳侯，而其具体负责事务也仅仅是与孙邵、孙绍、滕胤等人一起搜集周朝、汉朝的礼仪，制定东吴的朝礼制度，同时辅导太子孙登的学习，这显然是对张昭的一种冷落，也说明了孙权与张昭的裂痕正在不断地加深。
黄初三年（公元222年），孙权在武昌钓台与文武大臣饮酒作乐，喝得酩酊大醉，命人向文武百官身上洒水，并说：“今日痛饮，一定要醉倒在临台才能作罢。”众文武只能陪着孙权痛饮，只有张昭面色铁青，一言不发地走到外面并坐在车里。孙权不明就里，命人将张昭招至面前，问他为什么面带怒色。忍了半天的张昭终于发作了。他毫不客气地对孙权说道：“商纣王曾经作酒糟山、美酒池，通宵达旦地痛饮，当时他也自认为这只不过是作乐，却不知道其实他是在作恶！”张昭的话深深地刺激了孙权，孙权顿时沉默不语，面露愧色，立即宣布停止酒宴。虽然张昭的话很有道理，但是这样公然在文武百官面前指责孙权，也让孙权觉得非常没有面子。过了没多久，孙权就怂恿诸葛恪在文武百官面前捉弄张昭，算是为自己讨回了面子。
在一次宴饮时，孙权让诸葛恪敬酒，当诸葛恪来到张昭面前的时候，张昭已经有了几分酒意，不肯再喝，并认为诸葛恪这样强行敬酒不是敬老之礼。诸葛恪则当场说道：“当年姜太公年已九十，仍然能够亲临战阵，他还认为自己并没有老。如今只要是军旅中的事情，从来都是将先生摆在最后，而一旦有酒席之事，先生却总是被安排在最前，这样怎么能说我不尊老呢？”张昭哑口无言，只能一饮而尽。作为东吴集团资格最老、声望最高的一代老臣居然在大庭广众之下受到诸葛恪这个后生晚辈的责难，张昭可谓颜面丧尽。不过，张昭的悲惨境遇还远远不止这些，就在孙权建立吴国、自立为帝的大喜日子里，他也没忘记又一次狠狠地羞辱张昭。
黄龙元年（公元229年），孙权在武昌称帝建国，百官前往祝贺，自然是一片喜气洋洋，作为为东吴帝国的草创、发展、建立都作出了卓越贡献的老臣张昭，自然也难掩喜悦之情，不顾已经七十四岁的高龄亲自前来祝贺。没想到孙权不但将建国的功劳完全归于周瑜一人，同时还当着满朝文武的面无情挖苦张昭，“如果当年按照张公的建议行事，别说是建立吴国，恐怕我如今也只有要饭的份儿了！”张昭顿时跪倒在地浑身流汗，面露惭愧之色。尽管张昭当初因为在发展策略上与孙权发生严重分歧而向其提出投降曹操的错误主张，但时过境迁，孙权当众侮辱张昭，也的确显得很不地道。
遭受这次羞辱之后，张昭几近绝望，很快便向孙权申请辞去了所有的职务，就连他所统领的属吏和差役都退还给了朝廷，从此不问政事。
大概孙权也觉得自己做得有点过分，不久之后授予张昭一个辅吴将军的职务，虽然其地位仅次于三公，但明显是个荣誉职称，张昭基本上无事可做，回到家中专心研究学问，先后写下了《春秋左氏传解》及《论语注》
等着作。尽管张昭十分清楚自己已经在东吴帝国被边缘化，但他依然想发挥自己的余热，积极为东吴帝国作最后的贡献。因此，他每次上朝议事的时候都不顾自己已经毫无实权的现实，依然是言辞激烈，义形于色，经常对孙权制定的政策提出不同的意见和看法。时间一长，孙权感到很不耐烦，干脆下令不让张昭朝见，落得耳根清净，这回张昭算是彻底赋闲在家、无事可做了。
有一次，蜀汉使者出使东吴，极力称赞蜀国的政绩，东吴群臣无人出面应对。这时候孙权才想起了当年口若悬河、才辩无双的张昭，不禁叹息道：“如果张公在此，蜀国的使者怎么敢在这里自吹自擂？”第二天，孙权便派人前去慰问张昭，将张昭请到自己的宫中。刚一见面，张昭就向孙权表示了自己的歉意，激动地对孙权说：“从前太后和桓王（即孙策）不是把老臣我托付给陛下，而是将陛下托付给了老臣，因此我总是想着如何才能竭尽全力以报厚恩，使我在辞世之后有可以为人所称道的地方。
可惜我思虑肤浅，违背了陛下的厚意，自以为会因此受到冷落而沉沦直到离开这个世界。没想到如今又承蒙陛下的召见，得以侍奉左右。不过我的初衷就是仗义执言，报效朝廷。如果想让我改变这个初衷以求得荣华富贵来获得陛下的欢心，这是我所不能做到的。”张昭的这番话，体现出了一位老臣的拳拳爱吴之心，孙权听后也非常感动，对张昭表达了自己的歉意。
不过，这次的会谈仅仅是让张昭与孙权的关系得到了很小的改善，数年之后双方爆发了更加严重的冲突，还差点造成君臣之间彻底反目。
嘉禾二年（公元233年），盘踞辽东的割据势力公孙渊派遣校尉宿舒、郎中令孙琮携带表章来到东吴，声称向东吴俯首称臣并脱离曹魏，孙权信以为真并为此大赦天下，同时派遣太常张弥、执金吾许晏、将军贺达率领万余兵力，携带大量财宝赏赐公孙渊并加封其为燕王。孙权的这个决定引起了满朝文武的规劝，群臣们都认为不可轻信公孙渊，希望孙权收回成命。在这其中，言语最为激烈的又是张昭这个老臣。张昭直言不讳地表示：“公孙渊行事朝三暮四，今日他害怕遭到曹魏的讨伐才想出了向我们称臣的主意，只不过是希望得到我们的援救，称臣并不是他的本意。如果有一天公孙渊突然又改变了主意想向曹魏表忠心，那我们派出的使者就一定会有去无回，如此一来我们岂不是要被天下人耻笑吗？”
客观来说，结好公孙渊是孙权作出的一项战略决策，孙权从黄龙元年（公元229年）五月开始就已经派遣使者前往辽东，与公孙渊取得联络，其目的除了利用他对曹魏集团进行牵制之外，也希望通过这种手段获得当时东吴最为紧缺的战略物资——战马（关于这方面的分析，笔者在《三国，不能戏说的历史·诸侯》一书中有过较为详细的考论，在此不赘）。而此时东吴群臣的反对显然与孙权的战略构想相去甚远，孙权就与张昭争辩了起来。一边是孙权反复指责张昭，另一边则是张昭越发地坚持己见并得到群臣的暗中支持，孙权终于压不住火了，情绪也变得非常亢奋，当众拔出佩刀恼怒地对张昭说道：“我国的士人入宫则参拜我，出宫就参拜你，我对你的尊重也已经达到了极致。你为何屡屡当众顶撞我让我下不了台，为此我经常在提醒自己，不要因为克制不住自己的情绪而做出对你不利的事情！”
面对气急败坏的孙权，张昭还是不依不饶，对孙权说：“尽管我知道我的进言陛下不会采纳，但是每次都要竭尽愚忠直言进谏，原因就在于当年皇太后临终前呼唤我到她的床前，遗命让我竭尽全力辅佐陛下，太后的托付之语至今言犹在耳，老臣时刻不敢忘记。”说罢，张昭老泪纵横。
孙权也将佩刀扔在地上，与张昭相拥对泣。
不过，这场危机并没有过去，尽管孙权与张昭在朝堂之中真情流露，但孙权最终还是在这一年的三月让张弥等人去了辽东。张昭闻讯后恼怒异常，旋即声称患病，从此不再上朝，此举又把孙权给惹火了。孙权认为张昭这是有意向自己示威，让自己下不了台，于是下令用土将张昭府第的大门堵上。张昭的火气也上来了，干脆就在门内用土将门封死，双方就这样僵持了半年多的时间。
这年冬天从辽东传来消息，公孙渊果然杀死了张弥、许晏等人，将其首级送到了曹魏的京城洛阳。孙权这时才意识到自己决策的失误，后悔不已，多次派人前去慰问张昭并向他表示歉意，但是张昭的倔脾气也上来了，始终不肯出门与来使相见。有一次，孙权亲自来到张昭的家门口让张昭出来相见，张昭还是不愿出来，只是派了一个下人告诉孙权自己卧病在床，无法出来见面。孙权大怒，命人火烧张昭的家门，想用这种方法吓唬张昭，但是张昭对此不理不睬，任凭大火肆虐，自己依然安卧床头。无奈之下，孙权只好让人将大火扑灭，自己长时间在门口等候。
这时候张昭的几个儿子强行将张昭从床上扶起拉到门口，孙权用车将张昭接到宫中，再次向张昭表达了自己的歉意。张昭眼见孙权的态度非常诚恳，才怒气全消，继续参加朝会。不过，此时的张昭已经垂垂老矣，除了偶尔参加朝会之外，已经完全淡出了东吴政坛。
嘉禾五年（公元236年），张昭走完了他漫长而复杂多变的人生道路，与世长辞，死后谥文侯。
张昭是一位为东吴集团的草创、建立都立下大功的着名谋士，也是东吴集团的士人领袖。他数十年的兴衰荣辱，都是同孙氏兄弟的命运紧密地联系在一起的。孙策的个人魅力和知遇之恩深深打动了张昭，使得张昭死心塌地地为孙氏家族贡献一生，在孙策时期如鱼得水。也正因为如此，在孙权继位以后，张昭才会尽心尽力，全力辅佐。但是，由于身受托孤之恩，张昭的心态逐渐发生了变化。在孙权面前，张昭的那种“顾命大臣”的优越感体现得比较明显。正是因为这种优越感，把张昭自己给束缚住了。在张昭的心里，他就像是孙权的“仲父”，孙权就是自己的一个孩子，需要自己经常提醒、督促，这样才能完成孙策的遗愿，确保孙权不至于偏离自己所定下的作为君主的标准。一旦出现张昭自己认为不对的地方，张昭动辄以“遗诏顾命之言”来震慑孙权，逼其改正。但是张昭没有想到：刚刚继位的孙权的确需要有自己这么一位经验丰富的“师傅”进行辅导，但等到孙权羽翼丰满，正待一展抱负的时候，张昭没有及时调整好自己的心态，完成角色的转换，从师傅重新变成了下属。
其结果是到最后孙权终于忍无可忍，双方的裂痕不断加大，多次发生口角和冲突，逼得孙权不得不采取一些极端措施打压张昭，降低其在朝中的影响力。而张昭在东吴发展战略上出现的重大失误，也是导致他在东吴集团逐渐失势的重要原因。
张昭地位的下降除了以上的原因之外，还有一个重要的因素。在东吴建国的过程中，孙权一直在大力推行政权的江东化进程，而作为淮泗士人的代表人物，张昭在东吴集团被逐渐边缘化也是一种必然的结果。
孙权与张昭之间这种复杂的内在关系，是中国古代君臣之间常见的一种现象。不过有一点需要指出，众所周知，晚年的孙权昏庸无道、多疑滥杀，很多年富力强的朝廷重臣被孙权借故迫害致死，而孙权唯独放过了张昭这个数怒龙颜、固执己见的臣子。从这个意义上讲，孙权还算处理得当，虽然不重用张昭，但始终以礼相待，就算有时怒不可遏，事后也是主动赔礼道歉，体现出了一种豁达与大度，这也是张昭能够安享晚年的重要原因之一。