1938年1月，刘亚楼任抗日军政大学(红军大学改称)教育长。1939年初赴苏联入伏龙芝军事学院学习。苏德战争爆发后，加入苏军参加了苏联卫国战争。1945年8月，随出兵中国东北的苏联红军回国。1946年年初任东北民主联军参谋长，为组建适应战争需要的高效率的司令部做出了重要贡献。8月，兼任东北航空学校校长，为后来的人民空军培养了第一批骨干。
东北内战爆发后，刘亚楼先后协助总部首长部署和指挥了三下江南、四保临江，1947年的夏季攻势、秋季攻势、冬季攻势作战，歼国民党军22万余人，迫使东北国民党军龟缩于长春、沈阳、锦州等几座孤城之中。1948年1月，刘亚楼任东北野战军和东北军区第一参谋长，为使司令部工作适应向“大兵团、正规化、攻坚战”转变的需要，对从思想、组织、作风多方面加强司令部机关建设，付出了大量心血并做出了贡献。6月，经中共中央批准，任中共中央东北局委员，同时被委任为军委会东北分会委员。
1948年9月，毛泽东发出了《关于辽沈战役的作战方针》,10月初，当林彪私自以林、罗、刘名义向中央军委发出加急电报，提出放弃攻打锦州而北返打长春时，刘亚楼与政治委员罗荣桓一同进行了耐心的劝说，并发了一封重申攻打锦州的电报，保证了锦州战役及整个辽沈战役的顺利进行。辽沈战役期间，他积极协助总部首长，指挥部队连续作战52天，全歼东北国民党军47万余人，解放了东北全境。辽沈战役后，刘亚楼遵照中央军委关于“东野尽速入关，突然包围津、唐、塘等处之敌”的命令，立即筹划东北野战军分路迅速入关的各项工作，为保证北平和平解放做出了贡献。