抗战胜利后，林彪主持东北大局，当时的东北情况异常危急，部队不好驾驭，国民党军进攻不断。林彪主张积极筹谋，并指挥部队在秀水河子打了一个歼灭战，打退了敌人的进攻。
8月20日左右，有美军飞机到太行，林彪于8月24日也搭乘一架美国运输机离开延安。同行的有刘伯承、邓小平、陈毅、薄一波、滕代远、陈赓等20余人。当日，在晋东南的黎城县临时机场降落。9月19日在河南濮阳接到中共中央的电报，决定争取控制东北，要求将山东的主力调到东北和冀东。赴山东去的林彪、萧劲光、邓华、江华、李天佑、聂鹤亭一行到东北工作，成立冀热辽军区，林彪为司令员，李富春为政委。
林彪对接受争取东北任务很兴奋。在濮阳他就此项任务一连发了3封电报给军委和山东军区司令员罗荣桓及副政委黎玉。22日，他致电军委并转罗(荣桓)黎(玉)，“为掌握冀热辽战略枢纽，准备一切力量，争取粉碎国民党与我们争夺华北、东北的进攻，以保东北的顺利争取”，他决定不去山东，而由濮阳直接去东北，要求罗、黎做好调部队和干部去东北的工作。23日，中央复电同意他和萧劲光直接去东北。
24日，他又致电军委并转罗、黎、萧(华)，催促由山东去的部队和干部，“尤其是干部须迅速北去，以便展开广大的地方群众工作及进行扩军。”鉴于山东部队和新四军第三师数万大军正离开家乡北上，肯定会有战士开小差，因此他25日又以林、萧(劲光)名义致电罗、黎、萧并军委请转新四军：“希转移时，防止逃亡，应视为一个重大问题。为此，在内部动员时可以说明北上目的在(于)加强装备保卫抗战果实……及为了发动与解放北面群众”。
林彪一行过平津路后在三河县住了几天。林彪带几位军事干部在三河附近看了地形，准备迎击国民党军队的进犯。但由于美军已占秦皇岛，正为大批海运国民党军队进攻山海关作准备，军委决定让林继续北上。于是，林彪一行又东行到达山海关，东北局派火车来接。至锦州，林彪听取了先期到达东北的冀热辽军区司令员李运昌的汇报，然后继续北上。至沈阳，与彭真等会合。10月31日，军委鉴于苏军不赞成东北部队用八路军名义，乃决定将在东北的部队统称为东北人民自治军(1946年后改称东北民主联军)，任命林彪为东北人民自治军总司令，彭真为第一政治委员，罗荣桓为第二政治委员。
在共产党调部队北上的同时，国民党也在准备抢占东北。1945年9月，成立了以熊式辉为首的东北行营，任命杜聿明为东北保安司令长官，一面收编伪满军警土匪，准备从苏军手中接收东北，一面加紧用美国军舰海运部队到东北。11月1日和13日，由秦皇岛登陆的国民党第十三军和第五十二军先后向山海关大举进攻。守山海关的原山东军区六师杨国夫坚决抵抗，击退了敌人多次进攻。15日，毛泽东致电林彪、彭真，要求坚守山海关、绥中线，节节抗击，消耗、疲惫敌人，同时让黄(克诚)、梁(兴初)两部开至锦州、锦西、兴城三角地区，准备战场，等敌人进至绥中、兴城地区时，举行反攻，分作几次战斗，一次消灭敌人两三个师，歼灭敌军3个军，以从战略上解决问题，电报要求林彪或罗荣桓亲自去指挥。19日，中央来电又提出，“要竭尽全力，霸占全东北。”
东北局决定由林彪前去指挥。此时，已到东北的部队中，山东军区的一师、二师和新四军的第三师都是由一一五师发展起来的，按说林彪应该熟悉。但是，他离开部队已经7年多了。现在的师长，那时还是营长；现在的营长，那时还是战士，至于连以下的指战员，绝大部分都是他负伤后参军的。他从延安来时，虽然带了一些干部，但那都是准备分到各地和部队去当一二把手的。他指挥部队需要一个指挥机构和一部电台，否则他就真成了光杆司令了。幸而罗荣桓带来了一个精干的指挥机构，就是苏静、李作鹏、何敬之这么几个人。由于时间紧迫，他带了这个班子和一个警卫排，分乘两辆汽车就出发了。不久司机逃跑，车开不动，于是又骑马往前赶。但是，林彪刚从沈阳出发，16日，杨国夫部已撤出山海关，到19日，长驱直入的国民党军又占领了绥中。
解放战争时期的林彪。此时，人民自治军的情况却不太妙，一开始，由于没有密码，林彪同黄克诚、梁兴初部队都联系不上。联系上以后，林彪得知，这些部队从原地出发前，上级告诉他们说，东北有大量武器装备，要求这些北上部队把大部分武器留在当地，除带一些自卫武器外，徒手到东北接受日军留下的装备。但是，他们到达东北后才知道，虽然早于他们到达东北的冀东部队，从日军仓库中搞到一些武器，装备了一些并不巩固的新扩大的部队，但后到的老八路却没有得到什么武器。不仅缺武器，而且按黄克诚11月26日给毛泽东的电报的说法是“七无”：无党、无群众、无政权、无粮食、无经费、无药、无衣服鞋袜等，但正运到东北来的国民党军队却是曾远征印缅清一色的美式装备。对共产党和八路军均不了解的东北群众持有“正统”观点，一般均将国民党军看成是中国政府的军队加以欢迎。
一方面是占优势的国民党军队的猛烈进攻，另一方面，11月19日，驻东北的苏军又通知东北局说，按照中苏友好条约，苏军将把中长路沿线各城市移交给国民党。
鉴于情况的变化，占领全东北已无可能。11月22日，林彪致电军委和彭真、罗荣桓，提出：“我有一个根本意见，即：目前我军应避免被敌各个击破，应避免仓促应战，应准备放弃锦州以及以北二三百里让敌拉长分散后，再选弱点突击……”这一意见得到毛泽东的认可。
26日，人民自治军主动撤出锦州，月底，撤出沈阳。这一期间，在大连的罗荣桓，在哈尔滨的陈云、高岗、张闻天，在辽西前线的黄克诚等都发表了与林彪相似的意见。经过酝酿，12月28日，毛泽东代表中共中央起草了《建立巩固的东北根据地》的指示。指出：“我党现时在东北的任务，是建立根据地，是在东满、北满、西满建立巩固的军事政治的根据地。”这种根据地需建立在“距离国民党占领中心较远的城市和广大乡村”。
1946年1月10日，中共代表和国民党政府的代表签订了停战协定，12日，双方分别下达了13日零点生效的停战命令。但是，蒋介石认为对东北是接受主权问题，不包括在停战协定之内，因此国民党在关内停战(实际是小打)，同时把第七十一军和号称“五大主力”中的两支主力新六军和新一军陆续运到东北，大举向东北解放区进攻。
林彪对这种关内停战、关外大打的局面非常不安，他担心国民党借关内停战之机把主力部队调到东北来，而在东北，由于我军尚未建立巩固的根据地，是全国战局中最薄弱的环节，国民党占领了东北后便会对华北解放区实行南北夹击。1月15日，林彪向中央、东北局发报，提出了自己的担心，认为“对现在和平的实际收获，须清醒的考虑之”。与此同时，他和东北局其他领导人彭真等一道着手贯彻中共中央的指示，把东北划为东满、南满、西满、北满四个军区、实行新老部队合编，整训部队，在广大地区清剿匪伪，发动群众，建立根据地。
林彪仍然主要是考虑作战，他到辽西后，经常到前线去。一师打上下汲台战斗时，他一直在师指挥所，紧跟着担任主攻的团队，观察部队的战斗队形和战斗动作。有一次他的秘书季中权同他一起到前线去，季缺乏作战经验，不注意隐蔽自己，把头伸到战壕外。林立即按下他的头，并说：“小季，会打死的呀！”
对于部队的战斗队形和战斗动作，林彪早在抗战期间已在考虑。1944年10月18日，他在陕甘宁边区部队高干会议上讲练兵时专门谈了战斗队形问题。他说：“我们的部队作战时爱成批地涌来涌去，勇气很好，但是缺乏有战术的动作。”“如果被人家的大炮和机关枪射击的时候，损失就太大了，因此现在我们要教育战斗员三五成群的战斗，一个两个的去战斗。”
在上下汲台战斗后，他看到一份部队印发的油印小报，介绍了一个连队为减少伤亡，进攻时把一个班分为几部分，这部分前进，那部分用火力掩护，那部分前进时，这一部分就用火力掩护。在这份小报上他用红蓝铅笔画了许多记号，随后便提出了“三三制”，即在步兵班内分三个小组，每组3至4人，在班长指导下，以疏散机动、小群的战斗队形进行战斗。随后，他又提出了一点两面，即集中兵力于主要攻击点突击敌人，同时以部分兵力从另一面或多面钳制并协同歼灭敌人。在主攻点上要“采取狭窄的战斗正面和纵深的战斗配备”，使主攻点的部队像尖刀和钻头一样，突破敌人的防线并向纵深发展。
林彪命令部队在国民党发动新的进攻之前抓紧练兵，练三三制和一点两面战术。
从2月8日开始，国民党军队分南、中、北三路向民主联军发动了大举进攻。其北路由阜新、彰武出动，先后侵入阜新东北的鹜欢池和彰武、法库间的秀水河子。侵入秀水河子之敌第八十九师一部此时距其主力已有一日行程之上，林彪决定吃掉这股孤立无援之敌。他命令山东一师和华中第三师第七旅共7个团从北、南两面包围敌人，然后由一师扫清外围后，于2月14日晚22时首先发动攻击。15分钟后，敌人的炮火全部倾泻到一师阵地上。一师指战员一面组织炮兵压制敌人的炮火，一面迅速接近敌人，实行近战，使敌炮不能发挥大的作用。这时，七旅按照林彪的命令突然在敌人背后发动猛攻。同一师战斗已呈胶着状态的敌人背后挨此重击，顷刻间乱成一团。一师二团一营乘机迅速突破敌人阵地，经过13个小时战斗，共毙伤敌1600余人。这是民主联军在东北反击国民党军的第一个歼灭战，打击了敌人的嚣张气焰。
面对敌强我弱的形势，林彪不计较一城一地的得失，“让开大路，占领两厢”，建立了巩固的农村革命根据地。三下江南，四保临江战役的胜利，歼灭了敌人的机动兵力，迫其由攻势变成了守势。
从3月11日起，苏军开始由沈阳沿中长路逐步北撤回国。3月13日，国民党军进入沈阳，随即向东、南、北三个方向展开扇形攻势，向周围扩展。3月18日，民主联军收复苏军撤退后被国民党收编的伪满部队占据的四平。此后，中央几次致电，要求尽一切可能保卫战略要地，特别保卫北满。
4月间，苏军撤出长春、哈尔滨、齐齐哈尔，国民党鞭长莫及，只能收编一些由当地伪军、土匪充数的“国军”接收上述城市，这些城市随即为民主联军所收复。
3月27日，国共两党关于东北停战问题的谈判达成初步协议，蒋介石乘停战协定尚未生效，下令加紧进攻，先后占领辽阳、鞍山、海城、营口、抚顺、铁岭、法库等地。4月2日国民党军开始北犯四平。4月3日，林彪致电中央和东北局，决心集中6个旅“坚决与敌决一死战”。与此同时，国民党军第八十七师两个团继占领法库后，沿公路经通江口北上，这又是一股孤军深入之敌。林彪命令以一个团作饵，引诱敌人继续北上。同时急调山东一师，华中三师八旅、十旅和万毅纵队共14个团，在大洼一带部署了一个口袋。4月14日敌人进入口袋。15日黄昏，发起攻击。1946年，林彪(左二)、彭真(左三)、陈云(左四)、刘亚楼(左一)出席中共中央东北局、东北民主联军总部在哈尔滨举行的高级干部会议。主攻的一师原计划一团、二团并肩进攻，林彪知道后说不行，把两个团由横摆改为纵摆，一团在前，二团在后；每个团一个营在前，两个营在后，成梯次队形，前边攻不动，后边接着攻，攻上去的全是生力军。这一仗共歼敌两个团，4300余人。
大洼战斗的胜利以及4月18日民主联军收复长春，又增加了林彪守四平的决心，从4月18日起敌五大主力之一的新一军猛攻四平。林彪在百里防线上部署了6个师(旅)顽强抵抗，与敌形成对峙。5月3日，敌占领沈阳以南的本溪，又将新六军全部、第五十二军和第七十一军各一个师调向四平，使攻打四平的兵力增加到10个师，从5月14日起，在飞机、坦克和大量炮火掩护下向民主联军守军发动轮番进攻。至18日，敌右翼新六军等部4个师从东面迂回到四平东北，企图割断守军退路。民主联军经一个多月的防御作战，已伤亡8000余人。为摆脱被动局面，林彪决定撤退，并致电中央，得到毛泽东的支持。