袁绍占有燕、赵地区，有吞并天下的野心，但他的能力却达不到这种水平。将军自以为能在他手下做事吗？将军以龙虎之威，可以当他的韩信、彭越吗？如今兖州虽已残破，还有三城控制在您的手中，能战之士不下万人，凭将军之神武，再加上荀彧和我这班手下齐心协力，就可以成就霸王之业，请将军重新考虑！
于是，曹操放弃了原来的打算，完全凭自己的力量和吕布交锋，最后取得了胜利。兴平二年（公元195年）曹操终于占领兖州全境，张邈被杀，吕布、陈宫残部仓皇逃往徐州。程昱也因为在这场决定曹操集团生死存亡的兖州保卫战中立功被任命为东中郎将，领济阴太守，都督兖州事宜。
在兖州的这场争夺战中，程昱的表现堪称完美。几十年后，曹操想起当年兖州的战事，记忆犹新，深有感触地对程昱说：“当年如果没有采纳你的意见，我怎么会有今天啊！”在曹操集团发展初期，程昱的突出表现保证了曹操取得并巩固了兖州这块得来不易的根据地，这也为曹操集团以后的发展、壮大奠定了坚实的基础。
建安元年（公元196年），曹操迎接献帝至许县，实现了“奉天子以令不臣”的战略目标，这时的程昱被任命为尚书一职，与曹操集团另外一名谋士荀彧一起掌管朝廷行政事务。不久之后，一位享誉中原的政治人物的到来引起了程昱深深的警觉。这个人就是刚刚被吕布打败的徐州牧刘备。
刘备自从奉幽州军阀公孙瓒之命进入徐州之后，很快便获得了徐州牧陶谦的信任。陶谦不但推荐刘备担任了豫州牧，后来在临终之际还将徐州拱手让给了刘备。刘备就任之后，很快便与袁绍结成了同盟，这样一来，曹操意欲占领徐州、扩大自己势力范围的企图也就落空了。不仅如此，刘备还收留了在兖州被曹操打败的吕布、陈宫，打算利用吕布、陈宫的力量维持自己在徐州的统治。不过刘备很快便自尝苦果。吕布进入徐州之后，暗中与袁绍集团结盟，并趁着刘备亲自率兵与袁术交战之时偷袭了徐州，成为徐州的新主人，而刘备进退失据，只能投降吕布。
后来双方又发生火并，无奈之下，刘备只得投靠了曹操。
对于刘备，程昱进行了一番深入的了解，他认为此时的刘备虽然力量薄弱，但却具备远大的政治野心和百折不挠的精神，同时又在中原地区具有较高的民望，这样的人物不可能长期屈居曹操之下，终有一日会成为一个强劲的对手。程昱立即向曹操建议，将刘备杀掉以绝后患。不过，程昱的建议并没有得到曹操的采纳，曹操认为刘备的投奔将有利于自己招揽天下英雄，因此不但没有听从程昱的意见，反而厚待刘备，对其加官晋爵进行笼络。到了建安四年（公元199年），曹操还派遣刘备迎击袁术。这时，程昱和郭嘉再次向曹操提出了自己的意见。程昱认为，以前不杀刘备反而将其重用的目的已经达到，而今刘备又担任了朝廷任命的官职，在中原地区的知名度和政治地位得到了进一步的提高。此次又给了刘备一支军队去讨伐袁术，这无异于养虎为患，刘备此去必将变心。
在程昱和郭嘉二人的劝说下，曹操也终于意识到自己犯下了一个巨大的错误，但是追之不及。后来事实的发展也印证了程昱意见的正确性，刘备来到徐州，就斩杀了刺史车胄，反叛曹操。自此，曹操多了一个终生为敌的对手，也正是因为这个对手，曹操终其一生都未能完成统一大业，给自己留下了无限的遗憾。也许是出于对拒绝程昱正确建议的悔意，不久，曹操升任程昱为振威将军。
建安五年（公元200年），袁绍集团和曹操集团之间的大规模冲突——官渡之战正式展开，这时的程昱正率领七百士兵镇守鄄城。也就凭着这七百士兵上演了一场精彩的“空城计”，这或许是三国时代出现最早的也是最真实的“空城计”记载了。事情的过程是这样的：
当时，程昱镇守鄄城，处于袁绍进攻曹操的必经之地。曹操见程昱兵力薄弱，而袁绍的进攻又迫在眉睫，想派遣两千士兵增援鄄城。面对自己人生中的第二次危难局面，程昱临危不惧，拒绝了曹操增兵的好意。
程昱说：
袁绍拥兵十万之众，自以为所向披靡。他若见鄄城兵少，必然因为藐视而不会进攻。但如果增加了士兵，袁绍就不得不进攻了，其结果是攻之必克，与其这样，还不如请您维持现状。
曹操采纳了程昱的建议。其结果也不出程昱所料，袁绍得知程昱兵少，果然不再进攻。事后，曹操在贾诩面前称赞程昱：“程昱胆量，超过了古代勇士孟贲、夏育。”
建安七年（公元202年），袁绍病故。程昱立即随同曹操投入到征讨袁绍残余势力——袁谭、袁尚集团的战斗中。程昱网罗了一群隐藏的亡命之徒，得到精兵数千，与曹操会师黎阳，讨伐袁谭、袁尚。
后来，曹操派遣程昱和李典一起负责运输军粮。当时袁尚任命的魏郡太守高蕃带兵驻扎在黄河上游，断绝了水路交通。曹操命令二人改由陆路进行运输，程昱和李典都觉得曹操的命令并不符合实际情况。他们认为高蕃的军队依仗的只有黄河天险，其军队既缺少甲胄又有懈怠之心，如果此时主动发起进攻，击之必克。因此程、李二人毅然率军北渡黄河，大败高蕃的军队，打通了军粮供应的通道。
在整个官渡之战时期，程昱虽然出现的次数不多，但是他每一次出现，都能为曹操集团出色地完成任务。因此，官渡之战结束后，程昱升任奋武将军，封安国亭侯。
建安十三年（公元208年），曹操夺取荆州，大败宿敌刘备，刘备逃奔孙权。当时曹操手下的大部分人都认为孙权不会和刘备联合，而会杀掉刘备，屈服于曹操，唯有程昱独具慧眼，认为孙权必将与刘备联合。
他认为：
孙权在位时间不长，尚未树立足够的威望，而曹公早年成名于天下，刚刚又夺得荆州，威震江表。孙权虽然小有谋略，但却不足以单独抵御曹公。刘备的情况就不一样。刘备素有英名，手下的关羽、张飞都是万人不敌。孙权一定会利用刘备的这些有利条件来对付我们。但是等到刘备羽翼丰满，孙权就算想杀刘备，也是不可能了。
历史的发展和程昱的预测有着惊人的相似。孙权果然和刘备联合，在赤壁之战中打败曹操，使得曹操统一全国的梦想从此化为泡影。不仅如此，刘备的势力也因此得到了很大的发展，逐渐成为除曹操、孙权之外的另一支举足轻重的政治集团，并最终夺取益州，为三国鼎立局面的形成奠定了基础。
建安十六年（公元211年），马超、韩遂等西北军阀拥兵十余万叛曹，曹操亲率大军征讨。此时的程昱已经是七十一岁高龄，曹操便留下程昱参与军事，辅佐曹丕。同年，田银、苏伯等人在河间地区谋反，曹丕派遣将军贾信率军讨伐。不久，叛军有一千余人请降。贾信派人征求曹丕的意见。按照以前“围而后降者不赦”的规定，很多人认为应该将这些叛军全部处死，程昱却不同意这样做。程昱对众人说：“围而后降者不赦，是在以前战乱时期所采用的一种临时应变策略。现在天下大致平定，而且又在国境范围之内，不能随便杀戮；即使要杀，也应该首先向曹公报告。”然后，程昱又专门建议曹丕立即派人向曹操报告，曹操果然下令赦免了这批叛军。后来，曹操当面称赞程昱：“你不仅精通军事策略，还善于处理别人父子之间的关系。”
自此，程昱的征战岁月告一段落，是年他已经七十二岁高龄了。
年事已高的程昱离开了自己钟爱一生的疆场，积极投身于曹魏的政权建设，为曹魏集团的发展继续贡献自己的力量。建安十八年（公元213年），已经七十三岁高龄的程昱还和曹魏的众多手下一起规劝曹操担任魏公。不过，此时的程昱已经老态龙钟，对于曹魏政坛变幻莫测的内部争斗缺乏足够的了解和掌握，在他身上发生的几件蹊跷事，让程昱最后的人生路上多少留下了一些阴影。
首先是在程昱的晚年，出现了令人听来瞠目结舌的事情：有人向曹操诬告程昱谋反，虽然曹操并没有听信诬告者的谎言，反倒给了程昱更加优厚的赏赐和待遇，但是这件事情本身却有些耐人寻味。要知道程昱可是从曹操集团草创开始就跟随曹操一起南征北战的有功之臣，有谁会没事找事，冒这么大的风险来诬告他呢？这可是夷三族的不赦之罪呀！
虽然程昱性格刚毅暴戾，得罪过不少同僚，但是这也不足以被同僚以谋反罪为由来打击呀！何况这个诬告者也要承担很大的风险。也许是诬告者利用了建安末年曹魏内部爆发的一系列叛乱事件，蓄意嫁祸程昱，这也至少说明程昱在曹魏政坛的地位并不稳固。
经过这件事情的教训，程昱似乎有点明白了，目睹自己当年的同僚不是被杀就是被废，还有的不得不整天闭门不出以躲避内部争斗，程昱也想出了一个避免遭到曹操猜疑的办法。在一次族人宴会上，程昱突然对众人说：“知足不辱，吾可以退矣！”于是，程昱上表辞官并归还兵权，从此闭门不出。
尽管程昱已辞官交兵，似乎不想再理世事、准备安度晚年了，但是事情还没有结束。曹操称王之后，他又担任了卫尉的职务，这已经是建安二十一年（公元216年）后的事情了，离程昱离开人世也只有短短的五年时间了。不料这时在程昱身上又发生了一件前所未有的怪事：程昱和朝廷新贵、时任中尉邢贞为争夺仪仗和随从而发生言语冲突，结果直接闹到了魏王曹操那里。也许是因为程昱性格刚毅暴戾的缘故，他对于此事耿耿于怀，不依不饶。据说程昱在曹操面前仪态尽失，“（程）昱於魏武（曹操）前忿争，声气忿高，边人掐之乃止”。这回曹操没有给自己这个忠心耿耿的老部下任何的面子，结果是单单就把程昱免职了，使得程昱颜面全失。我们难以想象这个已经七十五岁高龄的老人当时是什么心情，更加无法想象他是如何怀着这种极度郁闷的心情度过人生这最后的五年时光了。
直到文帝黄初元年（公元220年）曹丕称帝，程昱这个为曹魏集团立下过汗马功劳的老人才再次被记起，恢复了卫尉职务，晋封安乡侯，增加食邑三百户，连同之前的共八百户。曹丕打算封程昱为三公，可惜程昱不久便因病去世，享年八十岁。
得到程昱去世的消息，曹丕“为（之）流涕”，追封程昱为车骑将军，谥号肃侯，其子程武继承爵位。
虽然曹丕在程昱生命的最后阶段为他平反昭雪，复官晋爵，但对于这个将不久于人世的老者来说，这份荣耀显然来得太晚了点。不过，程昱总算看到了自己为之奋斗终生的曹魏帝国的诞生，心里多少也应该感到一丝安慰吧。
三国时人及后人对程昱的评价都是很高的。兖州别驾王彧评价早年的程昱“有谋，能断大事”；曹操认为他“卿当终为吾腹心”并认为“程昱之胆，过于贲、育”。陈寿在《三国志》中评价程昱“才策谋略，世之奇士，虽清治德业，殊于荀攸，而筹画所料，是其伦也”，同时还把他与当时蜀汉的着名谋士法正归为同类的杰出人物；李景星则认为程昱“魏之谋主，前后筹画，算无遗策，魏得诸人，如虎附翼，更无敌矣”。作为后汉三国时期的杰出士人，程昱目光敏锐、行动迅速，既不像荀彧、郭嘉等人一样经过摸索之后才找到心目中的明主曹操，也不像诸葛亮一样要等待刘备三顾茅庐方肯出山相助。他是在第一时间以第一速度就投奔了终身可以依托的明主；作为一代枭雄曹操的终身幕僚，程昱和曹操在长达几十年的沙场鏖战之中，配合默契。曹操在对程昱的使用上，可说把程昱的谋略才能发挥到了极致。而程昱则是用终身为之驱驰来报答曹操。而且程昱在沙场之上可说是算无遗策，韬略过人，不愧为世之奇士。
正如清人赵翼所言：“程昱为操画策，人所不知，操一一表明之，绝不攘为己有，此固已足令人心死。”这种良好的君臣关系，为曹操的整个文臣武将群体树立了一个榜样，既造就了程昱，也成就了曹操统一中国北方宏愿的实现。对于曹操集团的草创、发展、壮大，乃至曹魏帝国的建立，程昱都有不可磨灭的功勋。不过，程昱性格刚毅暴戾，这对于他在凶险异常的曹魏政坛发展非常不利，也使他在人生的最后几年中力不从心，如履薄冰，虽然早年风采逼人，但是在其晚年并无闪光之处，留给世人的只有孤独、沧桑的背影，这不能不让人遗憾。