早年徐海东在武汉加入了共产党，大革命失败后，他回到了家乡，开始从敌人手里夺取武器武装自己。黄麻起义开始了，徐海东模仿杨家将，组织了“徐家兵”，进行了年关暴动。
1900年6月17日，徐海东出生在湖北省黄陂县徐家老窑。他家有十几口人，半亩地，几间破茅草屋，靠烧窑、卖盆、卖罐为生。
1925年春天，大别山区的黄安、麻城、黄陂各县在武昌念书的青年学生中，有不少受董必武、陈潭秋等人的影响，加入了共青团或共产党。这些青年利用假期回乡的机会，到处宣传革命的道理。
一天，一个身穿长衫头戴礼帽文质彬彬的青年，来到徐海东住的那间破茅草屋。徐海东一眼认出了他正是儿时念书时的同窗好友吝积堂。原来，吝积堂在武汉董必武主办的武汉中学读书，接受了马列主义教育，加入了中国共产党。这年春天，他受党的派遣，与一名学生、共产党员李树珍一起回家乡做调查研究和革命宣传工作。
吝积堂给他讲了打倒军阀，打倒地主的事，讲了这世上为什么有的人穷，有的人富；穷人为什么受苦，地主怎样剥削农民；又讲中国有了共产党，要领着穷苦人闹革命。徐海东听得津津有味，说：“这些好懂。地主、土豪就是坏，要打倒，连他们的儿子都打死。”吝积堂笑着说：“你这是泥巴人说的话！地主老财坏透了的该杀，地主小子不能杀嘛！”俩人你一言，我一语，越说越对味，徐海东心里觉得暖烘烘的。
徐海东听了这许多革命道理，像在黑暗中见到了一线光明，心里亮堂多了。他想，不能老是捏着泥巴过日子，该到外面去闯荡闯荡。从此以后，徐海东常去找吝积堂聊天，吝积堂也常去徐海东家或干脆去窑厂。
有一天，徐海东见到吝积堂，就开口说：“你能领我去武昌走走吗？参加共产党为穷人干一番大事业。”吝积堂有点犹豫地说：“只怕你离不开家呀！”
徐海东急切地说：“我这个穷家，有什么留恋的？大丈夫纵也天下，横也天下，干革命是为我们穷人，这苦命非‘革’不可啦！为我们这些穷窑工，为老百姓打天下，只要有一口气在，就会干到底。你说吧，哪天走？”
“要是真的走了，可不能反悔！”吝积堂认真地说。徐海东说：“我做事从不反悔！‘君子一言，驷马难追’嘛。今天就说定了。”
3月8日，徐海东对父母说去庙会上看热闹，就匆匆离开了家，吝积堂和徐海东高高兴兴地上了路。从家乡到武昌，240多里路，他们晓行夜宿，不到3天就走到了。
徐海东本来满心希望到了武昌转转，找点活路干干。可他发觉武汉也不过如此，是“富人的天堂，穷人的地狱”，心中很是怅然。
吝积堂安慰徐海东暂时找个事做，只要有饭吃，慢慢可以找到革命的差事。几经周折，徐海东终于找到了个不用本钱的生意——担水卖。武汉三镇，千家万户都是饮用长江水，家家都备有几口大缸，由卖水人送水上门。
徐海东每天从早到晚，往返于水码头和用户之间，给20多户送七八十担水，一担水100多斤。一天跑下来，累得他腰酸背疼，脚底板发麻。
徐海东开始抱怨了。有一次，他对吝积堂和李树珍说：“积堂在老家就对我说过，到了武昌能参加革命，找到共产党，这事没有见底。我看你们只会讲‘革命’，说好听的。你们谁也没有见过共产党吧！”
吝积堂和李树珍同时大笑。原来，他们两个人都是共产赏员。看到徐海东着急的样子，便向他说明了身份。徐海东半信半疑地问：“你们是真的，还是假的！”“当然是真的。”吝积堂说。“这哪是说着玩的。”李树珍也说。
徐海东真想不到，他一心想找共产党，这共产党不在天边，就在眼前。他沉默了一会儿，试着问：“我真想当共产党员，只是笨手拙舌，不会写，不会说，从前是个穷窑匠，如今是个卖水郎，不知共产党要不要？”“共产党最欢迎工人，也欢迎农民入党！”于是那一夜，他们三人谈到深夜，吝和堂和李树珍决定作徐海东的入党介绍人。
1925年4月8日深夜，武昌都府堤40号，吝积堂、李树珍、徐海东，还有几位工人和教师正在举行入党宣誓仪式。会场上没有党旗，也没有标语，几个人站成一排，举臂握拳，压低声调，郑重宣读：“为共产主义奋斗，严守党的机密，不怕流血牺牲，一切听从党的安排。”
徐海东热泪盈眶，他觉得自己有力量了，有主心骨了，有希望了，加入了共产党，就像儿子找到母亲，一切迷茫与彷徨都消失了，剩下的就是为革命的事业奉献自己的一腔热血。
徐海东成为一名中国共产党党员后，依旧挑着两只水桶，往返于水码头和用水户之间，用水的人家管他叫“挑水的”。可是，人们谁都不会想到，这乡下佬，这穷卖水的，竟然是中国共产党的一员。而这个卖水郎，用辛辛苦苦挣来的卖水钱，交了第一次党费。不久，徐海东随吝积堂和李树珍一起离开了武昌，到广东参加了北伐军。
1927年4月12日，蒋介石在上海发动了反革命政变，许多共产党员被逮捕，遭杀害。革命的北伐军垮的垮，散的散，一小部分退回南昌、九江，徐海东也离开了北伐军回到了家乡黄陂。
徐海东头顶烈日，东奔西走，好不容易在一个村庄找到了县委书记陈金台。陈书记看徐海东英姿勃勃的气派，又听他说当过北伐军的排长，想到眼下正组织农民自卫军，需要一位能带兵的人，便说：“来得正是时候，你就当自卫军大队长吧！”徐海东爽快地答应下来，接着又问：“有多少人？多少支枪？”陈金台说：“钢枪，现今没有。人嘛，也不多。不过，只要把队伍拉起来，就不愁没有枪，也不愁找不到人。”
当天，徐海东领到了1支枪，14发子弹。他集合起自卫队，一点数，总共才13个人。而且没有像样的武器，队员们有的提把大刀，有的扛一杆梭镖，有的用红布包一块木头疙瘩，插在腰间，算作手枪，也有赤手空拳啥东西也不带的。
面对这样一支自卫队，徐海东觉得好笑，但又不能泄气，他暗暗鼓励自己：“革命正是困难时期，有一支手枪、十几个人，也要撑着干下去！”于是，他每天带领自卫队员进行队列训练，还给他们讲革命道理。然而，过了一阵子，有几个人不想再干了，嚷嚷着要散伙。
队员们议论纷纷，有的说：“这像个什么自卫军，连支钢枪也没有。”有的说：“没有枪，镇不住地主豪绅，更不要说打仗了。”还有的说：“还不如先散伙，等以后发了枪再集合！”
原来，自卫队员们心中的疙瘩是枪，他们觉得钢枪是胆、是主心骨，而徐海东日思夜想的也是枪，可到哪里去弄枪支弹药呢？徐海东正愁得没办法，忽然得到一个情报：夏店于堂寺驻着民团的一个班，带的都是真家伙。他心中一喜：这真是千载难逢的好机会！
第二天一早，他带领两个自卫队员进行了侦察。夜幕刚落，徐海东留下一人看家，自己带领12个队员悄悄出发了。
一路上徐海东快步走在前面，心里有几分高兴也有几分不安。这是他当队长以来第一次行动，打好了没说的，一旦打了败仗，或死伤几个人，往后说话就没人听了。但他振作起精神，鼓足勇气，心想：事到临头，要沉着、冷静，非打他个漂亮仗不可。他放轻了脚步，把大伙带到了敌人住的墙角下。
静悄悄的夜晚，万籁俱寂。突然传来一声叫喊：“干什么的！”徐海东沉着应答：“走夜路的！”“妈的，走夜路怎么走到这里来了！”敌哨兵骂着。“我们是贩盐的，天黑迷路了！”徐海东说着，已经走到敌哨兵面前，用手枪指着他的脸：“别动！你动，毙了你！”敌哨兵被吓得瘫软在地上，连声叫“老爷饶命！”徐海东缴了哨兵的枪，堵住了他的嘴，叫他领着进了寺院。
在北屋地上，躺着一排兵，他们打着呼噜睡得正香。徐海东指挥队员首先缴了挂在墙上的几条枪，又把敌人从被窝里拉出来，一个个上了绑。就这样，徐海东的队伍，没有打一枪一弹，活捉民团一个班。他要枪不要人，把俘虏捂在被窝里。说声快走，便领着队员们扛起钢枪，踏上归途。天刚破晓，徐海东和队员们高高兴兴地回到了出发地。
这7支钢枪，结农民自卫队壮了胆，助了威，当地许多农民纷纷要求参加。1个月的时间，自卫队扩大到300多人，徐海东成了真正的大队长，带着自卫队打地主斗豪绅，徐海东的名声也越来越响亮。在中国共产党的领导下，湖北黄安、麻城、黄陂各县的农民纷纷起来造反，整个大别山区的革命烈火熊熊燃烧。
1927年11月13日，在起义军总指挥部的领导下，黄安、麻城4个乡3万多民众，高呼着“打倒蒋介石！”“打倒地主豪绅！”的口号，占领了黄安城，活捉了县长贺守忠，成立了黄安县工农民主政府。这就是着名的黄麻起义。
当晚，徐海东带领黄陂农民自卫军，奔赴黄安参加攻城。但因在路上误了时间，自卫军赶到时战斗已经结束了，随后，这支农民自卫军被并入了工农革命军鄂东军。这时，徐海东奉命回黄陂组织队伍，遗憾的是，徐海东回到黄陂，还没来得及组织队伍，当地的工农革命军就遭到了失败。徐海东不得不再次回家，待机而动。
隐蔽在家乡的日子里，徐海东有了要拉起一支“徐家军”的念头。他琢磨着穷人要闹革命，要翻身，为啥不能动员兄长、叔侄和亲友组织起一支革命军呢？我们徐家代代当窑工，祖祖辈辈受穷受苦，要是能把烧窑的武装起来，那才叫工人阶级的队伍哩！他下定决心，要拉一支“窑家军”。俗话说，富家多财产，穷家多人口。徐海东家有5个哥哥、七八个堂兄弟，远房近房的侄儿有十几个。按人头一数，不算嫂子和女孩子，徐家门能当兵的少说也够一个排。
就这样，徐海东开始在亲戚中游说起来。他的想法得到四哥、五哥的支持，他又去串联了几个堂兄弟和远房近房的侄儿，就这样，一支“徐家军”秘密发展起来了。连徐海东的童养媳妇田德载，也剪短了头发，要闹革命了。
“徐家兵”随着大别山地区革命形势的发展，编入了红军游击队。1928年秋天，徐海东被委任为中国共产党黄陂县夏区区委书记和暴动总指挥，他组织领导了“年关暴动”。国民党反动派为了扑灭工农武装斗争的烈火，进行了疯狂的大屠杀，杀死徐海东的亲属66人，逼迫他的童养媳改嫁，但敌人的屠杀，吓不倒、压不垮工人阶级的坚强儿子。千仇万恨，更激起了徐海东以顽强的精神去战斗。
在鄂豫皖根据地，徐海东有个绰号，叫“徐老虎”，喻其勇猛善战。有一次，陈赓让他去做后勤工作，他很不乐意，但还是很好地执行了。在战斗中，徐海东多次受伤，依然活跃在战场上。
1928年“年关暴动”后，徐海东多了一个绰号——“徐老虎”。乡亲们用“老虎”来形容他昼伏夜动、以山为家，打土豪劣绅；地主民团则用“老虎”比喻他厉害可怕、勇猛善战。在白色恐怖下，徐海东领着一支精干的小游击队日夜和敌人周旋。大股敌人到了，他们就赶紧藏进山林；小股敌人来了，他们就抓住机会打他一枪，抓几个俘虏，迅速转移。在斗争实践中，徐海东逐渐认识到：军事行动固然要冒风险，怕风险就不能打仗，可是不深思熟虑，一味鲁莽蛮干，也成不了事。
1930年4月，为了加强鄂豫皖边区革命根据地的统一领导和武装斗争，正式成立中共鄂豫皖边区特别区委员会，郭述申任特委书记。活跃在木兰山、紫山堡一带的红军扩编为中国工农红军第一军，许继慎任军长，曹大骏任政治委员，徐向前任副军长。此时正值蒋冯阎中原大战期间，各派军阀互相征战，徐海东依照党的指示，扩大了农民自卫军，随后他率领农民自卫军编入鄂东警卫第二团，徐海东任团长。
大别山区的革命形势迅猛发展，鄂豫皖根据地在不断巩固、扩大。6月，鄂豫皖边区苏维埃政府正式成立。1931年1月，中国工农红军第四军成立。
1931年3月，徐海东被任命为红军第四军十二师三十六团团长。徐海东一听说要离开老部队，到一个新的部队去，打心眼不乐意。他觉得那里人生面不熟，不好开展工作，便去找师长陈赓，陈赓正巧在洗脚，看见徐海东进屋，笑着说：“来来来，趁水热，烫烫脚。”徐海东耷拉着脸说：“我洗过了，找你是想说说，我不想去三十八团。”陈赓一怔，问道：“你想干什么？那就来替我当师长，我正找不到一个来顶替哩！”
徐海东一听，以为师长疑心他想要个大官，着急地说：“师长，你想到哪里去了，我不是想当官！革命嘛，哪能想自己，我是说，到新部队人不熟，我……”“谁和谁熟？”陈赓拉着长音说，“我来到这大别山熟人更少，照你说，那只好不干了。”说着穿上鞋袜，在地上走动着。“我是想，人熟好工作……”陈赓突然打断他的话，严厉地说：“乡土观念！只想抱着老婆、孩子在家门前转圈圈，这算什么革命分子！”
陈赓这几句话，说得徐海东很委屈，若不是刚认识不久，真要和他大吵一顿了。他压住心头的怒火严肃地说：“我不是那号人！我是不想离开我那个老团。”陈赓瞪大眼看着他，问：“你那个团？哪个团是你的？”徐海东说：“我是说，我和警卫二团人熟，我也不是那意思……”他解释着。