当总部撤到四平以北的梨树时，作战科长王继芳携实力统计、撤退计划叛变投敌。国民党军得知民主联军内情，乃放胆猛追。在长春附近的范家屯，东北局几位领导人开会讨论行动计划，林彪主张继续北撤，得到了罗荣桓的支持，于是部队继续向松花江以北撤退。一时间，有些部队的建制跑乱了，战士找不到班长，连长找不到排长，暂时失去了战斗力。林彪眼看大撤退可能收不住脚，6月1日致电中央，准备放弃哈尔滨。6月3日，毛泽东复电东北局和林彪，同意放弃哈尔滨，采取运动战和游击战方针。
但是，国民党因兵力不够，并未进攻哈尔滨，5月25日，民主联军第四纵队在南满发动鞍(山)海(城)战役，连克鞍山、海城并促使国民党军一八四师师长潘朔端率部起义，使东北国民党军顾头不顾尾了，便在第二松花江以南停了下来。
6月6日，国共双方达成停战15天的协议。由于国民党对发动新的进攻尚未准备好，停战又维持了4个月。
6月16日，中共中央致电东北局，决定以林彪为东北局书记、东北民主联军总司令兼政委，以彭真、罗荣桓、高岗、陈云为副书记兼副政委，并以林、彭、罗、高、陈组成东北局常委。
7月初，东北局常委总结了东北10个月来对敌斗争的经验，随后召开了中共中央东北局扩大会议，讨论通过了由陈云起草的《东北的形势与任务》(简称《七七决议》)
《七七决议》指出：要准备以长期艰苦斗争取得和平，创造根据地是我们工作的第一位，创造根据地的主要内容是发动农民群众。《七七决议》还指出，作战的原则，不在于城市和要点一时的得失，而是力求消灭敌人。
8月10日，东北民主联军进行了整编，将部队编为第一、第二、第三、第四、第六共5个纵队，另有第三五九旅，南满独立一、二、三师，11月，成立了民主联军炮兵司令部，共有36万人。与此同时，东北局大部分干部均深入农村发动群众，进行土改，派小部队清剿土匪，扎扎实实做建立根据地的工作。
国民党军也利用停战时间加紧整补部队，到1946年9月，国民党在东北共有包括两支主力军在内的7个军，25万人，加上地方部队共有40万人。但是，他们没有搞土改，他们在农村依靠的是地主和伪满的军警官吏而得不到广大农民群众的支持，这正是他们会失败的根本原因。
10月，国民党军东北统帅杜聿明又开始了对民主联军的进攻。由于占地广，战线长，他已无力展开全面进攻，乃采取了“南攻北守，先南后北”的方针，集中经营南满。南满解放区一时间仅剩下了长白山麓的临江、浑江、抚松、长白4个县，南满主力三纵和四纵被压缩到狭小山区，十分不利。为了粉碎敌人“先南后北”的战略，东北局决定采用坚持南满，巩固北满，南打北拉，北打南拉，南北满密切配合，集中优势兵力，主动打击敌人的方针。为了加强对南满的领导，经中共中央批准，决定成立辽东分局，派陈云、萧劲光到南满，陈云任辽东分局书记兼辽东军区(又称南满军区)政委，萧劲光任辽东军区司令员，萧华为副司令、副政委。11月初，陈、萧赶到南满后，召开了对坚持南满斗争具有历史意义的“七道江会议”，提出“留在南满，在长白山上打红旗，摇旗呐喊，大闹天宫”的主张，以便南北夹击敌人。
为了配合南北斗争，林彪决定利用冬季江河冰冻的条件，调部队到松花江以南，在长春、吉林以北地区寻歼分散之敌，驻在这一地区的敌人是国民党王牌新一军。为了做到知己知彼，从11月起，林彪便不断派六纵等部队到江南侦察地形、敌情，对敌人哪里驻兵，哪里有工事，河有多宽，水有多深，哪里有桥，能否通汽车，等等，均弄得一清二楚。为了摆脱日常事务，集中精力指挥作战，林彪从10月起将他的前方指挥部搬到哈尔滨以南的双城。
12月17日，杜聿明集中6个师兵力进攻临江，南满部队进行了一保临江战役。为配合南满作战，1947年1月5日，林彪调12个师，冒着零下40度的严寒，越过松花江，发动了“一下江南”攻势。林彪命第一纵队一部去进攻吉林以北的其塔木，那里驻有新一军第一一三团一个营及辎重连、工兵排，同时让一纵队其余部队进至其塔木和吉林、其塔木和九台之间，让六纵进至其塔木至德惠之间，准备伏击敌之援兵。
6日中午，一纵三师向其塔木发动攻击，守军顽强抵抗。第二天早晨，从九台和德惠来援之敌分别到达张麻子沟和焦家岭，被一纵和六纵歼灭。一纵三师乘胜攻克其塔木，共歼新一军两个团。与此同时，二纵攻克了伏龙泉等地。杜聿明遭此打击，被迫停止了对临江地区的进攻，从南满调两个师北上，林彪命令部队转回江北休整。
1月底，杜聿明又调集4个多师再次进攻临(江)，被三纵和四纵歼灭2000余人后停止了进攻。随后，杜又从北满调回一个师，于2月13日以5个师的兵力，向临江发动第三次进攻。为了配合南满民主联军的三保临江，林彪决定二下江南，以群众为依托，狠打敌军。他命令六纵奔袭德惠东南的据点城子街，命令一纵、二纵准备打从九台、德惠出援之敌。经过一下江南，新一军的傲气已不复存在，守城子街的一个团见民主联军来攻便准备逃跑。林彪立即越过纵队一级直接命令离城子街之敌退路最近的二师赶到城子街背后通九台的道路上去阻击逃敌，随后六纵攻克城子街，歼1个团，一纵攻克九台。杜聿明一看北满吃紧，只好放弃进攻临江，抽调4个师北上，并打开小丰满的水闸放水，妄图将民主联军主力隔在江南。林彪见敌过于集中，便命令六纵停攻德惠，全部主力回江北休整。
杜聿明见民主联军撤退，又集中了新一军、第七十一军，在一个大队空军配合下，分几路北上，七十一军一部伸进松花江以北。
林彪见敌军已经分散，乃令二纵和六纵回歼闯入江北之敌。七十一军见势不妙，又缩回江南。林彪命令一纵、二纵、六纵勇猛追击，于郭家屯、靠山屯地区歼灭国民党第七十一军之第八十八师全部及第八十七师一部，杜聿明的车队在从德惠回长春途中被阻击，杜聿明侥幸逃脱。
杜聿明见在北满不能得手，又调20个团向临江发动第四次进攻，其第十五军第八十九师被全歼。至此，国民党对临江地区的进攻彻底破产。
三下江南，四保临江，民主联军共歼敌约4万人，削弱了东北国民党军之机动力量，迫使其从此由攻势转入守势。
东北人民解放军越战越强，开始发动反攻，迫使东北国民党军三易主帅，但四平失利，林彪认真总结经验教训，提出六个战术原则。
1947年4月8日，林彪致电南满分局书记陈云并报中央军委，提出率军南下南满，改变民主联军南北分兵的状态，形成一个拳头，以集中打击敌人。此建议得到毛泽东同意。
林彪等在研究作战部署。从5月13日起，民主联军开始发动夏季攻势，至6月3日，肃清了吉林、长春以南，四平以东广大地区之敌，歼敌近5个师，沟通了东、西、南、北满的联系。从6月11日起，民主联军集中了10个师围攻四平，至20日占领了大半个四平城，国民党的七十一军军长陈明仁带着他的直属队和卫队退守到城东北角，负隅顽抗，民主联军付出重大伤亡代价，但久攻不下，29日，国民党集中10个师从南北两面逼进四平。林彪决定留一部佯攻四平，集中了9个师去迎击沈阳北上之敌。由于敌人队形密集，啃不动，消灭了一个团后即退出了战斗。这一仗虽歼敌3万余人，但民主联军伤亡亦达万余，四平仍然没有攻下来，陈明仁因为这一仗得了一枚青天白日勋章，升为兵团司令。这一仗对林彪刺激很大，从此以后，四平的阴影一直笼罩着他，他便怯于攻坚，影响到后来的打长春，打锦州。直到打开锦州，这一阴影才从他的头顶移开。
就杜聿明这一方面讲，他头上的阴影要比林彪浓重得多。因为除了守住四平外，打的全是败仗。杜聿明和他的40万军队已被困在四平南北和北宁路沈阳到山海关的狭长的走廊内。杜忧郁成疾，7月9日灰溜溜地养病去了。杜聿明一走，熊式辉也待不下去了，8月，陈诚接替了熊式辉东北行辕主任职务，并将东北保安司令部并入行辕，独揽东北党政军大权。陈诚曾在黄埔军校当过教官，按辈分说是林彪的老师。他上任后，把保安部队扩编为正规军，又从关内调来第四十九军，使总兵力增至4个兵团14个军，共达50万人，他扬言要在半年内恢复东北原有局势。但是，他的大话刚说完，林彪发动秋季攻势搞掉他近7万人。接着民主联军的冬季攻势，又歼灭他15万人，解放四平等城市，把国民党军压缩到长春、沈阳、锦州等几处互不相联的孤立城市之中。1948年1月，蒋介石再度换马，又宣布卫立煌为东北“剿匪”总司令兼东北行辕副主任。
国民党三度换马，而民主联军则越战越强。1947年6月罗荣桓回国，全力抓二线兵力，动员大批翻身农民参军，组建大批的独立师、团，训练后成建制地加入主力部队，同时将大量俘虏的国民党军士兵补充进部队。1947年夏季攻势后，民主联军新组建了第八、第九、第十纵队。到1948年3月，在冬季攻势快结束时，又组建了第五、第十一、第十二纵队，加上炮兵纵队、铁道兵纵队和15个独立师、3个骑兵师，到8月，已达70万人，军力已超过国民党军，已具备了与国民党军进行战略决战的条件。但是，决战应从何处下手？颇受四平阴影困扰的林彪在双城那间挂满军用地图的房间里，或骑坐木椅，或来回踱步，却是煞费苦心。
此时，他的对手卫立煌是一个资格比陈诚更老的将领，他到东北以后，决定采取“集中兵力，重点守备，确保沈阳、锦州、长春，相机打通北宁线”的方针，在长春、沈阳、锦州都集中了重兵。长春：10万人，由东北“剿总”副总司令兼第一兵团司令官郑洞国率领。沈阳及其周围本溪、抚顺、铁岭、新民地区：30万人，由卫立煌直接指挥。锦州、锦西：15万人，由东北“剿总”副总司令兼锦州指挥所主任范汉杰率领。
这三块都是硬骨头，都很难啃。
4月18日，林彪等东北领导人经反复讨论，致电军委，认为南下北宁路及入关作战很困难，主张先打长春，吸引沈阳之敌增援而歼灭之。22日，军委同意此计划。5月24日，东北人民解放军一部奔袭在郊区抢粮的守长春的国民党部队，准备乘虚攻入长春。国民党军被歼两个团后缩入长春。经过这一战斗，发现部队对进攻坚固设防的大城市，在战术、技术上均准备不足。因此，6月5日，经军委同意，林彪决定对长春采用长围久困的方针。一个月以后，东北局常委重新讨论作战方针，认为长春工事坚固，粮食可依靠空运接济，我军攻长春和打援不能兼顾，因此“仍以南下作战为好”，军委同意这一方针。为了适应大规模作战的需要，8月14日成立了东北野战军领导机关，林彪任司令员，罗荣桓任政委，刘亚楼任参谋长，谭政任政治部主任。下设两个兵团，第一兵团司令员萧劲光，政委萧华。第二兵团司令员程子华，政委黄克诚。随后，由于雨季耽搁，需进行后勤准备等，决定于9月12日发动辽沈战役(当时叫秋季攻势)，先攻锦州。
从冬季攻势结束到辽沈战役开始，约有半年时间，打仗较少。东总提出了“打长春，大练兵”的口号，部队进行了整训，练兵。林彪总结了几次攻势特别是打四平的经验教训，又提出了一些战术，主要有：
一、四快一慢。四快指向敌前进要快，抓住敌人后进行准备工作要快，突破后扩张战果要快，敌人溃退后追击时要快。一慢指总攻发动时机要慢。慢的时间要用以侦察地形敌情、布置兵力及火力，政治鼓动工作及休息。
二、四组一队。四组是火力组、突击组、爆破组、支援组。一队即突击队。这同“三三制”一样，也是队形问题。林彪提出“四组一队”是解决攻城的巷战中的队形问题，并说明这种分组方法不受四个组的限制，可以灵活运用。
三、三猛战术，即猛打、猛冲、猛追。这在北伐战争时期的叶挺独立团就有了。
四、三种情况下三种不同的攻击法。一种是敌人守，要完成一切准备工作后再攻击。一种是敌人要退不退，如果准备好了再打，敌人会跑掉，不准备就打，又会碰下来。这时应先将敌人围起来，围而不攻或围而小攻，用一部分和他打，抓住他，使他走不脱，然后准备好再打。一种是敌人退，那就要猛追，这时不等命令……不要怕部队少，也不要怕情况不清楚追就是了。
加上“一点两面”、“三三制”，共六个战术原则。
此外，林彪还特别注意战斗作风的养成。他认为，“作风”是看不见摸不到的东西，但却是客观上存在的，可以说每个部队都有他自己的一套作风。他认为作风的形成除了平时的政治与军事教育外，主要靠实际锻炼。他认为，军队需要的作风是战斗积极性很高，很勇敢，很顽强，动作迅速，能吃苦，严格执行命令，自动的协同动作。