黄克诚先入国民党再入共产党。湘南起义时便反对大烧大杀，在红区，他主张不要搞肃反扩大化，不要搞什么会师武昌，饮马长江之举。因不合拍多次被撤职。
1902年，黄克诚出生于湖南省永兴县油麻墟下青村。1924年冬在由共产党人贺恕等主持的衡阳党支部加入了国民党。1925年10月加入中国共产党。
从1926年7月至1927年4月，黄克诚随北伐军转战衡阳、长沙、岳阳、汉口、孝感、武昌、信阳、漯河、郑州等地。
轰轰烈烈的大革命由于蒋介石、汪精卫的叛变而归于失败，共产党的组织被迫转入地下。10月份，黄克诚决定离开芜湖的唐生智部，自己去找党组织。11月，黄克诚回到了家乡永兴县，开始从事地下革命活动。他团结了一批三师“永兴旅衡学校互助社”的同学，并与当时在永兴主持党的工作的向大复取得了联系。
1928年初，朱德和陈毅率领南昌起义的部队经粤北入湘南，占领宜章城，湘南暴动由此拉开序幕，永兴县爆发起义。永兴起义后，农军很快攻占永兴县城，成立永兴县苏维埃政府，由湖南特委派李一鼎担任县委书记。参加暴动的武装合编为永兴红色警卫团，尹子韶任团长，黄克诚任党代表兼参谋长。
湘南暴动后，以陈佑魁为首的中共湘南特委，忠实执行瞿秋白“左”倾盲动主义路线，命令各县大烧大杀，他们不仅要求烧掉县城和土豪劣绅的房屋，还要求将衡阳到坪石间道路两侧15华里内的所有村庄统统烧掉，以达到所谓的“坚壁清野”，“使敌人无房可住，从而阻止其进入”的目的。
大烧大杀政策引起了人民的普遍不满，黄克诚不同意这种大烧大杀的做法。永兴暴动胜利后，县肃反委员会处决了一个大恶霸地主，这本是件好事。但是，肃反委员会竟然连这个地主的几个未成年的孩子，也不放过，说是斩草除根。黄克诚力排众议，觉得尚未成年的孩子并无过错。于是，他和肃反委员会的多数人争执起来。结果，黄克诚又被指责为“右倾”。
至于烧房子，黄克诚更是抵触。但是，上级关于大烧大杀的指示已经传达下来了，不执行似乎又不行。一天，永兴县委召开会议，讨论如何执行湘南特委的指示。县委书记李一鼎在会议一开始就布置大烧大杀的任务，并不征求大家的意见。但是，刚布置完任务，黄克诚就立刻站起来说道：“我坚决反对烧房子。这种做法是不得民心的。”
北伐战争时期的黄克诚。李一鼎不容置疑地说道：“执行党的决议是不能打折扣的，你还是党员吗？！”“正因为我是一名党员，所以才有责任提出自己的意见，使党免受损失。”“你这是右倾！”李一鼎声色俱厉，“我命令你立刻带人火烧县城！”“这种做法，会让老百姓不得安身。我拒绝执行。”“我以组织的名义，命令你必须坚决彻底地予以执行！否则将予以严厉处分！”李一鼎大怒。黄克诚沉默不语，很久他才吐出一句话：“我服从组织决定。”会后，黄克诚负责去烧永兴县城。一场大火下来，除衙门机关、祠堂、庙宇和少许商店化为灰烬外，大部分房屋商店“幸免于难”，完好无恙。原来，黄克诚在执行过程中，采取了折中的办法，使得既不违背组织决定，又尽可能的减少破坏。
湘南暴动引起了敌人的恐慌，开始集结重兵镇压。由于湘南特委执行“左”倾盲动主义，失去了人民的支持，在湘粤两省敌军南北夹击之下，湘南起义很快归于失败。3月底，朱德、陈毅率部以及各县农军撤离湘南，向井冈山转移。
黄克诚带领从永兴撤退的800多人几经辗转，进入酃县。在这里，县委将全部人员改编为永兴独立团，黄克诚为团长，李一鼎任党代表。之后，永兴独立团向井冈山进发。
1928年4月，毛泽东和朱德的部队在宁冈砻市胜利会师。两军会师后，成立了中国工农红军第四军，全军下辖第十师、第十一师、第十二师，共8个团，1万余人，朱德任军长，毛泽东任党代表，黄克诚被任命为第十二师三十五团(即原来的永兴独立团)团长。
1930年6月，刚成立不久的红三军团要执行“左”倾路线，去攻打长沙、武汉等中心城市，当时在红三军团任职的黄克诚对此是有不同看法的。他认为大城市内的党组织遭到的破坏很严重，仅凭现有红军的力量去夺取中心城市很有可能重蹈覆辙。经过反复思考，黄克诚给红三军团军团长彭德怀写了一封信，陈述了不能盲目攻打中心城市的理由。
黄克诚在信中说道：“我刚离开武汉时间不久，知道我们党在武汉没有多少力量，那里的党组织大部遭到破坏。现在搞以武汉为中心的城市暴动，根本不具备条件。要采取军事进攻的手段，靠现有红军的力量，也不足以夺取武汉。如果盲目地实行攻夺大城市的计划，只能造成无谓的牺牲。”
黄克诚的观点遭到许多人的反对，纵队政委张纯清指着黄克诚的鼻子骂道：“你是十足的右倾机会主义！”但彭德怀觉得黄克诚的意见确有道理，遂暂时放弃了攻打中心城市的计划，率领红三军团沿粤汉路北段行动，向湖南推进，于7月初攻克岳州(今岳阳市)后，乘胜向东开进，扑向平江。平江守敌见红军来势凶猛，未敢抵抗，弃城而逃。红三军团兵不血刃，便占领了平江城。
之后，红三军团前委、湖南省委、湘鄂赣特委在平江城举行联席会议商约红军下一步行动方案。会上，一部分人仍极力主张按照中共中央的部署，武装夺取武汉，另一部分则主张暴动夺取长沙后，再攻武汉。双方相持不下，而黄克诚对两种观点均不赞成，他反对攻打中心城市的意见。
黄克诚的意见立即招来与会人员的严厉批评，他们指责他的观点是严重的右倾机会主义，并当即撤销了上级任命他担任纵队政治委员职务的决定，让他继续留任支队政治委员。
后来，彭德怀为这件事在私下里把黄克诚训了一顿。彭德怀说：“你好大的胆噢，硬是拿鸡蛋往石头上撞。”黄克诚说：“我这个人不拐弯，有意见就提。”
1931年盛夏，中央苏区第三次反“围剿”战火正酣，红三军团第三师政治委员黄克诚在火线上突然接到上级命令，要他立即回到军团政治部领受任务。他以为上级又要调换他的工作，没有多想，便向师里交待了工作，从前线撤了下来，急急忙忙来到了军团政治部。他喘气未定，肃反委员会负责人就将一份名单递了过来，面容严峻地对他说道：“这份名单上的人，是被供出来的‘AB团’分子，要立即抓捕归案，押送肃反委员会接受审查。”
黄克诚看了看名单，上面所列的人大多数是第三师中的基层干部，眼下他们正在率领部队同“围剿”之敌浴血奋战，黄克诚清楚的记得第一次肃反运动因滥杀无辜酿成富田事变的教训。这次他坚决予以抵制，没有按名单捕人，反而向肃反委员会据理力争，担保名单上的人没有一个是“AB团”分子，希望肃反委员会“刀下留人”。但是肃反委员会根本不为黄克诚的苦苦陈词所动，他们严厉地对黄克诚说：“你是入党多年的党员，又是师政治委员，应该懂得如何执行党组织的决定，更清楚违犯肃反纪律的责任和后果。”黄克诚自知再费唇舌已无济于事，便转身离开军团政治部。
在回部队途中，黄克诚已下了履险抗命的决心，只要能保护这几名干部免遭不测，自己的生死去留任凭发落，在所不惜。过了几天，肃反委员会不见第三师的“AB团”分子押送来，便一再向黄克诚催问，其言辞一次比一次严厉。黄克诚暗自思忖，这样硬顶下去，恐怕不是个办法。即使自己被撤职、杀头，也终难确保名单上的同志不被处置。他思来想去，最后决定秘密通知名单上的同志暂时上山躲避，等过了这阵风头，或许会有回旋的余地。每天黄克诚派人上山给他们送饭吃，打起仗来，他派人叫他们下山，回各自部队参加战斗，打完仗马上再上山躲藏起来。肃反委员会数次派人来第三师抓人，都无功而返。那些上了黑名单的人，明知自己一旦被肃反委员会抓到，就活不成了，但他们并不逃跑，打起仗来照样勇敢杀敌，冲锋陷阵。黄克诚看到这种情景，愈加坚定了保护他们的决心，这件事最终还是被肃反委员会察觉了。
一次，战斗刚刚结束，准备上山的一些同志还没有来得及离开，肃反委员会就来人把他们抓去杀掉了。黄克诚克制不住满腔义愤，怒斥肃反委员会滥杀无辜，干了亲者痛、仇者快的蠢事。肃反委员会因此怀疑黄克诚有问题，把他抓了起来审查。幸好此事被军团长彭德怀知道了，拍着桌子质问肃反委员会凭什么抓捕他的师政治委员？肃反委员会本来想把黄克诚也打成“AB团”分子杀掉，但一时又拿不出证据来，就只好说黄克诚在肃反问题上表现右倾，是个“右倾机会主义”分子。彭德怀则说，对“右倾机会主义”分子可以批判斗争嘛，不该采取捕、杀的办法。肃反委员会无言以对，只得将黄克诚释放，但不准他再带兵了，并撤销了他第三师政治委员的职务。
1931年12月，党对肃反扩大化问题开始纠正，黄克诚被重新起用，调任红军三军团第一师政治委员。黄克诚任第一师政治委员不久，就赶上了攻打赣州。1932年1月10日，中央革命军事委员会根据临时中央和苏区中央局的指示，下达了攻打赣州的军事训令。黄克诚对此训令并不赞成，他认为从整个形势和敌我力量的对比来看，攻打赣州是冒险行为，但军令如山，他只有服从。
黄克诚率部进抵赣州后，见赣州城既高且固，又三面环水，易守难攻，就更加认定这个仗不能打。于是，他向上级建议取消攻打赣州的军事冒险行动，使部队免遭不必要的损失。他的建议不仅未被采纳，而且还被命令率第一师负责攻打赣州城西门。他只得命令，率部投入攻打赣州城的战斗。赣州城果如黄克诚所料，易守难攻。过了几日，敌人援兵赶到，赣州城内的敌人乘势反扑，红军腹背受敌，黄克诚看到形势危急，急忙下令撤退，减少了部队损失。
1932年10月，中共苏区中央局全体会议在江西宁都举行。会上对所谓的毛泽东“右倾机会主义”进行了批判，并且免除了毛泽东在红军中的领导职务。宁都会议之后，红三军团政治部在广昌召开会议，批判黄克诚的“右倾机会主义”。黄克诚不服，不仅拒绝检讨所谓的错误，还直言不讳地指出上级推行的是“左”倾冒险主义，坚定地认为毛泽东的主张是正确的。
上级认为黄克诚顽固坚持错误，不适宜带兵，撤销了他第三师政治委员职务。先调他担任红三军团政治部宣传部长，不久又解除他的宣传部长职务，将他下放到教导营任教导员，这一次是连降两级。1933年4月，在彭德怀的直接干预下，黄克诚才再度被启用，担任红三军团政治部代主任。不久，任红四师政委。
1933年9月，蒋介石调动数万大军，对中央根据地发动了第五次“围剿”。而这时，王明的“左”倾机会主义路线在党内占据统治地位。共产国际军事顾问李德总是以正规战、阵地战的形式要求红军与白军作战，提出的作战方针是：“保卫苏区每一寸土地”，“拒敌于国门之外”。
对于这些策略和方针的错误，黄克诚很快意识到了，他对彭德怀说：“这样打下去，红军是要被搞垮的。”彭德怀与黄克诚有同感，却有难言之隐。他对黄克诚说：“你别再提意见了，再提你就要被赶出红军了。”黄克诚说：“我又不是哑巴，有话怎能不讲呢？”然而，他的申诉无人理会，他只得“坚决”完成任务。
长征途中，黄克诚率部充当先锋，过湘江时死守界首渡河点，又率军勇夺娄山关，保证了红军的顺利通过。过草地时由于反对马上整顿纪律和审查干部又一次被免职，去当了军事裁判所所长。
第五次反“围剿”失败。1934年10月，中国工农红军第一方面军和中央机关8万多人实行战略转移，从福建西部和江西瑞金出发，踏上了漫漫长征路。彭德怀领导的红三军团作为全军的右路先锋，黄克诚率领红四师作为红三军团的先头部队，为后续的大部队开辟通路。10月21日，黄克诚和师长指挥部队连续苦战，突破了敌人的第一道封锁线，占领了固坡。但是，刚到任的年轻师长在通过封锁线时牺牲了，这令黄克诚心痛不已。随后，中央军委任命中央纵队参谋长张宗逊担任红四师师长。
黄克诚和张宗逊率部西渡赣江，经南康、鲁义越过五岭山脉，进至湖南汝城，又与湘军何键部接上了火。黄克诚指挥部队奋勇拼杀，于11月8日突破了敌人的第二道封锁线。之后，又很快突破第三道封锁线。11月的天气，阴雨绵绵，道路泥泞不堪，一脚踏出去，泥浆飞溅，不时有人滑倒。这样恶劣的天气，黄克诚不敢戴眼镜，怕行军摔跤把眼镜弄坏了。他是个高度近视，丢了眼镜，怎么指挥打仗？于是他把眼镜小心翼翼地放在了口袋里，让警卫员用根小木棍拉着他，深一脚浅一脚地走。
蒋介石发觉了红军西进的意图后，慌忙调集40万大军，沿湘江两岸构筑第四道封锁线，妄图利用湘江这一天堑，聚歼红军于湘江东岸。黄克诚和张宗逊率部与红一军团的第二师协同作战，强渡湘江，控制了界首渡河点，在光华铺同敌人展开了对峙，为后续部队渡江创造了有利条件。
由于后续部队行动迟缓，没有及时渡过湘江，敌人从四面八方聚集过来，在飞机的支援下向湘江两岸的红军发起了全面的进攻，企图夺回渡河点。为保住界首渡河点，红军付出了惨重的代价，渡过湘江以后，中央红军由江西出发时的8.6万多人锐减到不足4万人。