1945年9月，中共中央制定出“向北发展，向南防御”的战略方针，决定新四军军长陈毅北上到山东工作，罗荣桓到东北。10月4日，陈毅到达临沂，与罗荣桓在山东分局驻地（临沂城天主教堂后面的小楼）会面。15日，津浦前线指挥部组建，陈毅任司令员。18日，津浦路阻击战开始，12月27日胜利结束，历时两个多月，歼敌2.8万余人。10月25日，中共华东中央局在临沂成立，陈毅任副书记。

   1946年1月，组建山东野战军、新四军军部兼山东军区。陈毅任新四军军长兼山东军区司令员、山东野战军司令员。同月10日，国共双方签订了停战协定。2月，华东局和山东军区在临沂西关文庙召开党政军领导机关干部会议。陈毅传达了中共中央《关于目前形势和任务的指示》，并作了重要讲话。华东局和陈毅根据中央指示，大力巩固和发展解放区，做好反击国民党发动大规模内战的准备，主要开展练兵、减租和生产运动。5月4日，中共中央发出《关于清算减租及土地问题的指示》，决定将减租减息政策改变为没收地主土地分配给农民的政策。华东局在临沂城召开高干会议，对此指示进行贯彻，陈毅作了总结发言。国共双方签订停战协定后，在北平设立军事调处执行部，在山东的济南、青岛、枣庄、德州等地也成立了三方调处执行小组。陈毅多次参加停战谈判，以事实揭露国民党假和平、真备战的行动。6月上旬，陈毅部署山东解放军发起讨逆战役，先后解放胶县、张店等十余座城市，歼敌4万余人。6月26日，内战全面爆发。陈毅指挥山东主力部队南下，与华中部队会合，于12月15日发起宿北战役，19日结束。

  1947年1月2日至20日，进行鲁南战役，歼敌5.3万余人。1月下旬，华东军区和华东野战军在临沂城郊前河湾村组建，并建立中共华东前线委员会。陈毅任华东军区、华东野战军司令员兼政委、华野前委书记。整编后，华东局、华野前委召开了各军区、各纵队主要干部以及区党委负责人参加的作战会议，陈毅作了题为《一面打仗一面建设》的报告。2月6日至7日，在白塔埠歼灭郝鹏举部6000余人，生擒郝鹏举，接着率主力隐蔽北上莱芜，歼击李仙洲集团。4月20日发起泰蒙战役，至5月初，共歼敌2.8万人。5月中旬，取得孟良崮战役的重大胜利，歼灭蒋介石“五大主力”之一整编第七十四师等部3.2万人，取得了粉碎敌重点进攻的决定性胜利。

   1947年8月6日，经中央军委批准，华野分为东、西两个兵团。陈毅、粟裕率华野指挥机关、第六纵队、特种兵纵队赴鲁西南，统一指挥华野第一、第三、第四、第六、第八、第十纵队、特种兵纵队及配合华野作战的晋冀鲁豫第十一纵队，统称西兵团，担任外线作战。9月7日，指挥西兵团发起沙土集战役。接着越过陇海路南下，进至豫皖苏地区。陈毅从此离开山东。