东北军原是以军阀张作霖为首领、封建割据色彩极其浓厚的地方武装集团。这支军队，一方面与占领东北的日本帝国主义存在着尖锐的矛盾，另一方面又与企图兼并和消灭这支武装的蒋介石集团存在着尖锐矛盾。因此，在东北军中，存在着由来已久的抗日反蒋的积极因素。日本关东军炸死张作霖后，其子张学良易帜归蒋。1931年“九一八”事变爆发在蒋介石的不抵抗政策之下，张学良只得流亡关内，蒋介石又把这支队伍推向反共的第一线，阴谋在内战中消灭之。东北军1935年入陕时有5个军1个师，号称20万人，在与红军作战中，被歼灭3个师，损失严重。蒋介石非但不给补充，还取消了几个师的番号。东北军官兵此时背井离乡，怀念故土，厌恶内战，不愿当亡国奴，迫切要求打回老家去，同时又深受蒋介石嫡系军队的歧视，反蒋情绪日益强烈。家仇国恨集于一身的张学良，受到中国共产党“八一宣言”和统一战线政策的影响，早有抗日救国、收复失地、报仇雪耻的要求。为了适应并推动这种有利形势，1935年12月，党中央在瓦窑堡召开的政治局扩大会议上，就决定成立东北军工作委员会，以周恩来为书记，叶剑英为副书记。并确定彭德怀、李克农、朱理治、萧劲光、欧阳钦、聂洪钧等参加此项领导工作；朱理治、萧劲光负责日常领导工作。1936年1月下旬，党中央指示中央联络局局长李克农释放直罗镇战役中俘获的东北军团长高福源，并要高为红军与东北军开展和平谈判事宜进行联系。当时，对东北军俘虏的管教工作统由叶剑英负责。高福源在红军中生活两个月期间，叶剑英曾耐心地开导教育他，向他分析抗日救亡的形势，告诉他蒋介石利用东北军、西北军打红军，实际上也是企图消灭这两支队伍，让他回去劝告张学良，都是中国人，不要自己打自己。
1月25日，中共中央以毛泽东、周恩来、彭德怀、叶剑英、聂荣臻、刘志丹等红军将领名义发出《红军为愿意同东北军联合抗日致东北军全体将士书》，提出：中华苏维埃政府与工农红军愿意与任何抗日的武装队伍联合起来，组织国防政府与抗日联军，同日本帝国主义直接作战，收复失地。并表示：我们愿意首先同东北军来共同实现这一主张，为全中国人民抗日的先锋。接着，李克农与中共中央北方局代表王世英分别到洛川、西安，与东北军六十七军军长王以哲、十七路军总指挥杨虎城谈判，达成初步协议。4月9日晚，周恩来亲赴延安城一座教堂内，与张学良就抗日救国问题举行会谈，双方达成了联合抗日的协议。
6月中旬，叶剑英同李克农等奉命去蟠龙、琉璃坡、石家砭等地，了解中央军、东北军的兵力部署、进军动态，及时向毛泽东、周恩来报告敌情。并尽一切可能，利用各种关系，向东北军一○七师、一一七师官兵进行政治宣传，积极开展统战工作。对如何防止敌军进攻瓦窑堡提出许多建议，并根据毛、周指示，进行了大量救护伤员、保障供给、修补道路等方面的工作。从6月15日至22日，一周之内，叶剑英亲笔给毛泽东、周恩来写信14封，并派卢伟良等专人送去。这些信忠实地记录了当时叶剑英辛勤工作的情形，内容涉及敌、我、友各个方面，不仅反映了当时抗战与统战形势任务的复杂与艰巨，也反映了红军内部机构、人事和教育以及协助延安地区干部开展工作等诸多问题。他在6月20日7时给毛泽东、周恩来的信中写道：
“刘惠农及政治部派来两个人，昨日均到宋家川布置一切，准备接收刘家坪伤病员（约150人），并由省一级机关派人动员佚子，续向榆树坪运搬。但本日佚子能有多少来，尚未得报，已催刘赶办矣。……这两天王辉正拟帮助特务队整顿队伍，而主要负责人都跑了。昨天，王辉问该队政委：特务队近来进行过什么教育？他答：军事、政治都是我一人担任。又问：那么你进行过什么教育？他答：我队尽是新战士。王问：你上过政治课没有呢？他说没有。像这个政委和斯大林同志所引证过的那一位不可救药的说空话的人，实在没有什么分别，建议撤换。”
四在安塞领导东线工委
6月20日，中共中央发出《关于东北军工作的指导原则》，提出了争取东北军到抗日战线上来是我们的基本方针。
为了加强对党的统一战线工作的领导，毛泽东于7月9日致电周恩来，要剑英到安塞指导工作。随后，叶剑英来到安塞领导东线工作委员会（简称东线工委），与朱理治、边章伍等一起作陕北地区东北军的工作，争取他们联合抗日。
据马文瑞、刘向三等回忆，叶剑英到安塞后，立即深入到各地工委调查研究，于7月26日召开安塞、延安两县工委及县一级机关负责人会议。在会上叶剑英详细报告了当前政治形势和任务，并依据党中央对东北军工作的指导原则，解释了争取东北军工作的目的，说明各级东北军工作机关的组织系统与同级党组织机关的互相关系。当晚和翌晨，叶剑英又分别主持召开了安塞、延安两县工委会议，讨论和决定了以下一些问题：（一）安塞工委由马文瑞、刘德明、时文平、李先河、石步月等组成，下设安塞办事处和枣园办事处，主要对象是东北军六八四团；（二）延安工委由萧离、刘仲明、白寿康等组成，下设牡丹川办事处及富川力、事处、川口办事处，主要工作对象是东北军的六三一、六六○、六八五团等；（三）对所工作的对象要深入进行调查研究，不仅了解部队的番号、位置、主官、历史、特点、一般来往电报，同时还要了解其官兵个人的履历、政治表现、嗜好、个性等情况，并设法接近和亲近他们，争取进行面谈；（四）在东北军中积极发展党的组织，应当在“抗日复东社”的政治组织中进行党的组织工作，发展时必须经过多次谈话，进行介绍、填表、上级机关派人谈话，举行入党仪式等程序，郑重履行入党手续。叶剑英还亲笔书写了党员宣誓词交给安塞和延安两工委负责人，以便在发展新党员时使用。（五）加派3个干部去延安周围的东北军6个团工作，并派边章伍去县工委帮助工作，等等。这次会议以后，叶剑英把领导的重点放在争取东北军六十七军的工作上。又将该军第一○七师作为工作的突破口。
一○七师先驻防于安塞附近，后移驻延安地区。师长叫刘翰东。安塞工委对刘师长及该师六三○团一名叫陶翊周的营长做了大量工作，并发展陶翊周加入了中国共产党。陶入党后，叶剑英不时地穿着东北军的服装，出入该营防区，去做该营官兵的工作。一○七师移驻延安后，叶剑英于8月22日单骑赴陶营，与陶会面。不巧，陶进延安城去了，没有见着。第二天，叶剑英以中央工委代表名义给陶写信，告诉他：党决定陶翊周为一○七师党委书记，王昌奎、李朴玉为委员，刘仲明为中央巡视员（随一○七师行动），负责指导并帮助一○七师党的工作，“望积极无畏地为党工作”。
陶翊周见信后，遂将刘仲明安插到该营工作，随部队行动。由于叶剑英等积极开展工作，陶营士兵的觉悟有所提高，有些人便拖枪逃到红军中来，带走16支步枪，两挺机关枪。当时，东北军有规定，丢失枪支，要按价扣其直接长官的薪水。陶翊周无奈，只好求助于叶剑英。叶剑英报经周恩来批准，从安塞警卫营中抽调枪支送还给他。这样，互相帮助，加深了陶营官兵与红军的友谊。
叶剑英在争取陶营的同时，还亲自做一○七师师长刘翰东的工作。刘翰东是一位具有爱国思想、要求抗日的将领。叶剑英派党在东北军的联络员与他秘密接触，发展关系，以后又亲自与他交谈，做他的工作。8月20日，叶剑英和边章伍二人身着东北军军装，到延安城外10里处，与刘会面，并如数带去该师士兵投诚红军时携来的枪支，交还给他。刘翰东很感激，当场商定了双方交换枪支弹药的具体办法。22日夜，刘翰东派副官到离延安城20里外的河庄坪，给红军送来1．5万发子弹，叶剑英带安塞警卫营二连在那里接收，并以机枪回送。通过多次交往，刘翰东加深了对红军的了解和信任，同意中共派人去六二一团开展活动。叶剑英与该团代理团长周振互通信件，建立了关系。经过一段艰苦细致的工作，终于在一○七师、一一七师和其他一些部队中建立起了中共组织。
周恩来、叶剑英和东线工委还派刘培植（曾参与做过一○七师长刘翰东工作）到一○五师做刘多荃师长的工作。1936年夏，欧阳钦给叶剑英、朱理治的信中说：“刘培植亦于昨日回来，结果比较好。刘多荃对我们的表示一贯的不坏的。同时刘培植同志还见了许多其他的人，影响都很好。……”叶剑英随即致电周恩来报告：“东北军工作仍是中心任务。陕甘来信。用复写纸写的材料《刘培植报告》，另有一份写给你的。据刘培植同志说，刘多荃师长允许他随部队行动。刘可随一○五团行动，拟去信。”其后，叶剑英派刘随东北军行动，继续进行统战工作。
在叶剑英主持下，东线工委还开办了杨家沟、枣园两个市场，发展集市贸易，恢复“红白通商”。当时东北军驻防陕北，人地两生，交通不便，粮草紧张，蒋介石对“杂牌军”又不及时供应，使东北军部队生活供给发生不少困难。在这种情况下，东线工委开设贸易市场。允许东北军官兵来市场购物，或到苏区采办货物，帮助他们解决粮、柴、肉、马料等物资匮乏问题，这实际上是一种十分有效的统战工作形式。在市场上，工委工作人员主动与东北军官兵接触，向他们宣传停止内战、一致抗日的道理。彼此之间思想感情进一步得到交流。叶剑英还请周恩来派人民剧社到安塞市场演出。这个由危拱之担任团长的剧团，第一次来演出，就吸引了大批东北军的士兵和群众观看，受到热烈欢迎。当东北军官兵看到剧社演的《亡国恨》这幕悲剧时，许多人当场流下热泪，泣不成声。剧社共演出6场，场场爆满。演员及工委人员借演出之机与东北军官兵谈话，并散发《打回老家去》等宣传晶。东北军官兵不顾国民党政训处人员的破坏，坚持看戏联欢，效果极好。对于东北军中的右翼顽固分子、亲蒋的政训处人员的破坏行动，以及反动保甲人员，叶剑英指示安塞、延安两县工委发动群众给以打击。
叶剑英在工作中及时向党中央和毛泽东、周恩来请示报告，发出了大量电文和书信。有时一日数封。仅从7月28日至8月25日就亲笔给周恩来等修书10封，报告对东北军和十七路军工作的情形。信中大至方针策略，小至遣员购物，都一一陈述，不厌其详。字里行间充满对革命事业的高度责任感和满腔热忱。
东北军的六十七军西移时，杨虎城的十七路军于8月下旬开始调往延安。为了打通与杨部的关系，做好该军的工作，叶剑英8月18日在给周恩来的信中写道：“十七路军工作，依我所知，不能完全照东北军工作指示原则，因该部与东北军有许多差异，虽然我们工作目的则相同。请令曾希圣同志送一份十七路军官长名册给我们。”对于十七路军的工作，叶剑英提出了与东北军大体一致又有区别的原则和办法：（一）拟抽出一部分干部进行训练，专门研究如何做十七路军的工作；（二）将对东北军进行工作的经验，传授给他们，以利尔后工作的开展；（三）为使十七路军工作尽快开展起来，应采取必要的组织措施，建议将县区工委与地方党组织合并，将地区划出一段（从苏区边线起到苏区内六十里止），成立边区工作委员会，统一党政军的领导，着重做争取白军的工作；（四）工委办事处工作人员随游击队行动，以游击态势进行十七路军的工作，俟双方沟通以后，再选地设立机关，进一步开展工作。
为了开展对十七路军的工作，叶剑英还同边章伍、王立人、吕继才等同志进到延安城，分别活动，利用东北军的关系，与杨虎城部进行沟通，动员他们共同抗日。同时以安塞边防司令部中央红军警备团团长时文平的名义写信给杨部程鹏九团长，建议双方休战，彼此通商，并提请对方约束民团。为了争取杨部，叶剑英在军事方面也做了对付国民党军进攻的相应准备。
在叶剑英直接领导下，东线工委经过一段时间艰苦工作，取得显著成效。由于抗日形势的发展和党的统战工作的深入开展，东北军、十七路军与红军不仅停止了敌对行动，而且和睦相处，互派代表，互通情报，互送礼品，使原来的“敌军”变成了“友好的邻居”，为西北地区抗日救国统一战线新局面奠定了基础。
8月25日，叶剑英根据陕甘、安塞、延安三工委的工作报告，整理出一份工作小结，报告周恩来。
叶剑英在安塞领导东线工委期间，关心全局，积极搜集敌军和友军情况，随时通报中央。除此之外，他还极其关心红二、四方面军会师的情况。为了让这两个方面军顺利北上，与红一方面军会师，他及时通报敌情，介绍北上路线和沿途情形。7月8日、15日他致电刘伯承，分别通报甘肃马步芳、兰州于学忠、毛炳文、均、鲁大昌以及张学良、杨虎城等军队部署情况。8月6日、7日又连电刘伯承，详细介绍从俄界至瓦藏寺、哈达铺的行军路线及沿途山水、桥梁、寺庙、居民等情况。叶剑英所提供的一系列情报，对红军三大主力的顺利会师起了重要作用。