1945年8月，林彪被任命为山东军区司令员，赴任途中奉命改道向东北。1946年1月，就任东北民主联军总司令。与此同时，蒋介石在美国海军的帮助下，陆续将7个军（包括五大主力中的两大主力新一军和新六军）运至东北。国军由东北保安司令长官杜聿明指挥，攻占三海关、夺取沈阳，向四平、本溪进击。毛电令林彪“化四平为马德里”。4月18日，四平保卫战正式打响，国共两军不断增兵，仗越打越大，战斗日趋激烈。5月，国军兵力增加到10个师，林部渐感不支。5月18日，塔子山阵地被廖耀湘新六军攻破。林彪见形势于己不利，于当夜率部悄悄撤出了四平。5月23日，杜聿明部进占长春。林彪撤退到松花江以北，养精蓄锐，以图再举。1947年春，林彪喘息已定，又与他的黄埔师兄杜聿明大打出手，逐鹿东北。他三下江南、四保临江，使杜聿明损兵折将4万人，二人之间攻守易势。紧接着发起夏季、秋季和冬季三大攻势，相继歼灭国军40万兵力，收复城市77座，迫使蒋介石三易东北主帅。1948年1月，东北民主联军改称东北人民解放军，林彪仍任总司令兼正（委）。8月，东北野战军成立。林彪任东北人民解放军总司令兼正（委），东北军区司令员兼正（委），东北野战军司令员。麾下总兵力已达105万人。毛风趣地说：“林彪现在长‘肥’了”。1948年9月12日，林彪发起辽沈战役。10月15日，挥师攻破东北咽喉要地锦州，生俘范汉杰上将。19日解放长春。接着转兵辽西，采取边合围，边分割、边歼灭的战法，两昼夜歼廖耀湘兵团5个军共10万人，刷新解放军战史记录。11月2日，攻占沈阳、营口。以伤亡约7万人的代价，歼敌近50万人，胜利结束辽沈战役。至此，林彪指挥共产檔军队在东北黑土地上与国民檔军队较量3年，相继歼灭杜聿明、陈诚、卫立煌三员名将麾下108万兵力，解放东北全境，使得共产檔手中有了一个资源雄厚的战略区和一支实力强大的战略预备队。国军在东北输了个精光，杜聿明及麾下郑洞国等一大批黄埔名将全被他们当年的小师弟林彪打得焦头烂额。蒋介石怒斥他们：“林彪是黄埔四期的，可你们是一期的！”
1948年11月，林彪挥师秘密入关，直扑平津。1949年1月，闪击天津，只用29小时就攻下了傅作义宣称能守半年的“固若金汤”的天津城防。北平被围，傅作义别无选择，于1月22日宣布起义，北平和平解放。平津战役，林彪大军歼灭蒋系，傅系部队52万余人，解放华北全境，威震平津。
1949年1月，东北野战军改称第四野战军。4月，林彪率四野大军南下，向中南挺进。5月17日解放武汉。8月，被林彪大军包围在长沙的程潜和陈明仁率部起义，长沙和平解放。11月，林彪与“小诸葛”白崇禧决战于广西，至12月14日，歼灭白部主力17万余，解放广西全境，白崇禧垂头丧气逃往海南。1950年4月16日，四野两个军成功渡过琼州海峡，5月1日解放海南岛。至此，林彪率领的大军，从东北的白山黑水，打到海南的天涯海角，长驱直下，横扫千军如卷席。国民檔军驰名中外的远征名将、蒋介石的爱将们在林彪的打击下，纷纷落马，败走麦城。