毛泽东看完电报后，递给周恩来，并说道：“我看这个人选对了，黄克诚是个合适人选。初到东北，他‘上书’反映部队处事‘七无’，后来建设根据地，他是有一套的，我看行！”这样，黄克诚便奉命来到热河，任冀热辽分局书记兼政委，负责后方战勤支前工作。
战争初期，东北是个新区，群众未发动、政权未建立，部队都是轻装来的，有的甚至没棉衣。当时，部队给养是筹一顿，吃一顿，伤兵没人抬，也没地方治，几乎无后勤可言，部队上下痛感后勤保障工作成了制约部队战斗力生成的一个重要环节。
针对这种情况，东北局、东北民主联军决定成立东北民主联军总后勤部，下辖供给部、卫生部、兵站部、铁路管理局、东北银行总行等机构。后来随着东北野战军从守势转为攻势，开始打运动战、攻坚战的大兵团作战时，现代化的后勤工作已成为必须要解决的当务之急。中央军委指示东北局，扩充原东北民主联军总后勤部为后勤司令部，任命黄克诚为司令员兼政委，统管我军东北后勤工作。黄克诚迅速结束西满分局和西满分区工作，赶赴哈尔滨东北民主联军总部主持后勤司令部工作。
在黄克诚的努力下，东北我军后勤工作逐步走上了正规化的道路，为保证辽沈战役的后勤需要，起了关键性的作用。
1948年9月12日，辽沈战役打响，历时52天，歼敌47万余人。前方在打仗，后方支前忙。黄克诚负责冀热辽战区“繁重的补给战勤任务”，他在热河积极组织民工，筹集粮秣，保证前方。
英雄的塔山阻击线，在许多年后，人们只记得冲锋陷阵的勇士的名字，殊不知阵地上的饭和水、战士手中的枪和弹、战壕里的铁丝和木材，都源源不断地来自于黄克诚的精心组织和全力保障。
我军阻击任务完成撤离塔山后，国民党第六十二军军长林伟俦看到阵地上堡垒星罗棋布、交通壕纵横贯通，以及即使无人防守也难以通过的鹿砦、木桩、铁丝网等时，不无感叹：“仅在十多天的时间里，能找这么多木材、构筑如此完整的阵地，真是奇迹！”
1948年年底，辽沈战役结束。东北野战军南下入关，进行平津战役，黄克诚被任命为天津市军事管制委员会主任，随大军入关准备接管天津。1949年1月3日，天津攻城司令刘亚楼指挥30万东北野战军开始扫清敌外围据点的战斗。14日，对天津城发起总攻，至15日下午3时，战斗才进行了29个小时天津便被攻破，陈长捷被活捉。
天津虽然被攻克了，但百业凋敝，黄克诚找到时任天津市市长的黄敬，他让黄敬找来工厂业主，逐个做工作。黄克诚对这些人明确表示，共产党会发动工人支持复工，尽快恢复生产，并可以提供必要的帮助。这无疑给资本家们吃了一颗定心丸，生产很快恢复起来，商店也开始营业了，接管工作十分顺利。
天津解放前，有两家报纸十分有名，一家叫《大公报》，另一家叫《益世报》，都是日报。《大公报》创刊以来，由于经营得法，影响渐大，到了1949年该报早已是在全国很有影响的大报纸了，尤其在上层知识分子中影响为最大。不仅在天津出版，还在上海、汉口、重庆、香港等地出版。黄克诚怕报纸惹麻烦，没有过多的考虑，就下令让这两家报纸都停办了。中央得悉此事后，对黄克诚的这种简单作法提出了批评。这样，《大公报》停了没几日又复刊。从此黄克诚便多了一份天天必干的工作：白天忙全市的工作，晚上还要半夜爬起来看报纸大样。
黄克诚等人接管天津不久，刘少奇曾来天津做过两场报告。一次是在党的干部会上讲的，再一次是召集资本家开会时讲的。在党的干部会议上刘少奇讲到对待资本家的态度时说道，对资方不要只讲斗争，以团结资方，搞好生产。刘少奇还当着众多资本家的面特别强调，当前一个时期还要发展资本主义生产力。他鼓励资本家不要有什么顾虑，尽管放心大胆去干，一个厂可以发展成几个厂，对国家贡献更大些。
对于刘少奇的这两个讲话，黄克诚有不同的看法。他认为目前的情况是要团结资本家，但是，不能一味地只讲团结，也要讲斗争。应该是又团结又斗争，在斗争中求团结。
1949年4月，人民解放军渡过长江，攻占南京，国民党政府的统治宣告结束。此后，人民解放军继续挥师南下，向西北、西南、中南、华南进军。8月，湖南解放，湖南是南下歼灭白崇禧集团的必经之地，湖南支援大军南下作战的任务十分艰巨，必须有一个能担当大任的人来主持大局，黄克再次挑起了这个担子。早在5月时，黄克诚便接到中央任命，担任中共湖南省委书记兼湖南军区司令员兼政委。10月，黄克诚在参加完开国大典后便动身南下，走马上任。
当时，黄克诚坚持在一定时期内还得把工作重点放在农村，得到了中南局书记林彪的支持。林彪率军路过湖南时听了黄克诚的想法后，随即发指示电给中南各省说：中南各省当前工作重点还应放在农村。有了林彪的支持，黄克诚便放手抓起了湖南的农村工作。
剿匪、支前是黄克诚的当务之急。湖南的土匪极为出名，但在东北有丰富剿匪经验的黄克诚很快就找出了对付家乡土匪的有效办法：先剿重点，围而后剿；断其逃路，彻底歼灭。黄克诚指示在湘的剿匪部队由东到西，由南到北，一块一块地吃，一块一块的剿，很见成效。支前工作，黄克诚也是搞得十分红火，做到了忙而不乱。
但是，黄克诚面临的最大挑战仍是刚到湖南就遇上了少有的饥荒年。南方多水，这一年的湖南就是遭受了历史上少有的水灾。粮食奇缺，又要支援解放大军的粮食供应，“民以食为天”，老百姓没有粮食吃，人心便有些不稳。这时候一些私商又乘机垄断粮食，囤积居奇。一时间，粮食问题成了湖南的大问题。敌人也乘机煽动说，共产党只会打天下，不会坐天下，共产党无法解决老百姓的吃粮问题。面对如此严峻的形势，省委和省政府必须尽快拿出相应的得力措施，才能稳住人心，保证湖南各项工作的顺利进行。
1950年，黄克诚在长沙庆祝八一建军节大会上讲话。黄克诚和省长王首道在仔细分析各方面的情况后，认为目前最主要的就是制止住私商的粮食垄断行为。对当时惊心动魄的斗争，黄克诚晚年是这样讲的：“我们采取了两条措施：第一，凡采购粮食者必须持有政府所发的许可证，否则就是违法私购。违者可酌情予以处理，甚至没收，这样就控制了不法私商的粮食来源。第二，一切粮食加工厂、米厂，只准给政府和政府控制的粮食加工，不准给不法私商加工，违者必究。我们还严禁不法私商经营粮食加工业，这样就控制了粮食加工业。”
这两条规定一实施，湖南的粮食问题大为缓解，民心逐渐安定。湖南百姓对省委省政府的做法十分赞赏，人民的敌人也感到：“这共产党不可小视，今后当好自为之！”
但是，随着朝鲜战争的爆发和中国人民志愿军入朝参战，敌人又觉得共产党人简直是被胜利冲昏了头脑，居然敢跟美国人打。他们认为：共产党必败无疑。
既然共产党必败无疑，那么国民党重返大陆也是一定的了。因此，他们的活动也从刚解放时的隐蔽状态转入公开与半公开的了。在这些人的煽动下，一时间谣言满天飞：第三次世界大战就要爆发啦，国民党就要反攻大陆啦，共产党要完蛋了等等。听到这些煽风点火的话，老百姓也有些慌了。
面对国内外敌人的疯狂挑衅，中央决定大规模地镇压反革命。对于中央的决定，黄克诚十分赞成。主张坚决镇压，对他们的宽大无边就是对人民的犯罪。然而，湖南的一些地方领导人却下不了这个决心，甚至不相信中央有这么个决定。他们对国民党残余、土匪、恶霸下不了手。为此，黄克诚亲自去湘西督战，黄克诚对他们说：“湘西的反革命最多，不杀掉相当数量，这里是不得安宁的。”
在黄克诚的严令下，湘西开始了大张旗鼓地镇压反革命运动，但问题是湘西杀的人又太多了。黄克诚一看杀过了头就急忙让停下来，然而，立马停下来也不是一件容易事。由湘西的情况，黄克诚想到全国情况大概也和湖南相仿。于是黄克诚在3月下旬发电报给邓子恢并报中央说：湖南执行中央决议以来，杀的反革命人数已不少；目前已出现个别的逮捕范围扩大，处理方式简单的情况；我们拟即收缩，停止大捕杀，转入正常工作；限制范围，要有计划、有步骤地进行斗争。
中央很快同意了黄克诚的意见。毛泽东还在3月31日的电报中特意提了黄克诚的名字说：“我认为黄克诚同志3月23日的意见是正确的。镇压反革命无论何时，都应是准确地、精细地、有计划、有步骤地，并且完全应由上面控制。各地如有‘逮捕范围扩大，处理方式简单’情况者，应立即加以收缩……运动尚未开展者，则应当推动其开展。”
黄克诚的建议又一次得到了中央的肯定。