日本投降后的1946年1月，中共中央軍委決定，新四軍軍部與山東軍區(qū)合并，組成新四軍兼山東軍區(qū)，統(tǒng)一領(lǐng)導(dǎo)山東和華中地區(qū)的軍事斗爭(zhēng)。陳毅任新四軍軍長(zhǎng)兼山東軍區(qū)司令員，饒漱石任新四軍政治委員兼山東軍區(qū)政治委員，張?jiān)埔萑涡滤能姷谝桓避婇L(zhǎng)兼山東軍區(qū)第一副司令員，主持新四軍軍部和軍區(qū)后勤及基地建設(shè)，黎玉任副政治委員，陳士榘任參謀長(zhǎng)。同月，津浦前線野戰(zhàn)軍改稱山東野戰(zhàn)軍。

1946年6月下旬，國(guó)民黨撕毀停戰(zhàn)協(xié)定，發(fā)動(dòng)全面內(nèi)戰(zhàn)，調(diào)集58個(gè)旅約46萬人的兵力，采取由南向北、由西向東逐步壓縮的方針，大舉進(jìn)攻山東、華中解放區(qū)。山東軍區(qū)各部隊(duì)，會(huì)同山東野戰(zhàn)軍第1縱隊(duì)，先后在膠濟(jì)鐵路（青島—濟(jì)南）西段和東段、魯南、魯西南、膠東、魯中、渤海等地抗擊進(jìn)犯的國(guó)民黨軍，保衛(wèi)解放區(qū)。

當(dāng)時(shí)，華東方面，我軍實(shí)際上是三線作戰(zhàn)：第一是蘇北，粟裕、譚震林等指揮第1、6師和7縱、9縱、10縱及后來組建的11縱；第二是淮北，陳毅、舒同指揮新四軍二縱三個(gè)旅（不久五旅南下蘇北作戰(zhàn)和淮南獨(dú)5團(tuán)組建11縱）、七師三個(gè)旅和山東八師三個(gè)團(tuán)；第三是膠濟(jì)線，張?jiān)埔?、黎玉指揮葉飛一縱三個(gè)旅和山東第四、九師，和許世友的膠東第五師、六師。

面對(duì)東西夾擊的大量敵軍，山東軍區(qū)積極應(yīng)戰(zhàn)，張?jiān)埔萃栌竦确治鲅芯亢鬀Q定，以地方武裝的民兵、游擊隊(duì)，在敵軍所到之處與后方廣泛地發(fā)動(dòng)游擊戰(zhàn)爭(zhēng)，不斷地消耗敵軍的有生力量，制造和擴(kuò)大敵人的缺點(diǎn)和過失，“以散耗集”；集中主力部隊(duì)力量，尋求敵人較弱的一點(diǎn)或數(shù)點(diǎn)，采用“聲東擊西”“調(diào)虎離山”“金蟬脫殼”“遠(yuǎn)交近攻”等戰(zhàn)術(shù)，一連打了兩個(gè)多月的運(yùn)動(dòng)戰(zhàn)，“以集滅散”。敵人企圖在半個(gè)月內(nèi)打通膠濟(jì)線的計(jì)劃終于告吹，有力地配合了我野戰(zhàn)部隊(duì)在南線的軍事作戰(zhàn)。張?jiān)埔輩f(xié)助陳毅指揮部隊(duì)，兩個(gè)月殲敵7000多人，使敵人打通膠濟(jì)線陰謀破產(chǎn)。

1946年10月底，國(guó)民黨軍第54軍、第8軍由膠縣、濰縣分路合擊平度縣城，企圖消滅膠東地區(qū)解放軍主力，并切斷山東解放區(qū)與東北解放區(qū)的海上聯(lián)系。山東軍區(qū)令膠東軍區(qū)部隊(duì)在平度、掖縣地區(qū)阻擊，魯中軍區(qū)部隊(duì)在安丘地區(qū)鉗制。接到指示后，張?jiān)埔莶渴鹉z東軍區(qū)和魯中軍區(qū)部隊(duì)于11月1日發(fā)動(dòng)平(度)安(邱)戰(zhàn)役。我軍各地方武裝，在敵人出動(dòng)之初，從敵人駐地出動(dòng)開始，就展開節(jié)節(jié)阻擊，層層騷擾，遲滯國(guó)民黨軍的進(jìn)攻速度，配合膠東軍區(qū)主力完成戰(zhàn)略展開。

11月1日，由膠縣出犯的國(guó)民黨第54軍進(jìn)抵平度縣城以南的馬丘、白河廟、河岱地區(qū)時(shí)，膠東軍區(qū)第5、第6師和警備第3旅當(dāng)晚進(jìn)行反擊，殲敵第54軍一部，次日晨撤出戰(zhàn)斗；由濰縣出犯的國(guó)民黨第8軍向平度縣城以西猛攻，阻擊部隊(duì)予以殺傷后主動(dòng)撤離，國(guó)民黨第8、第54軍于3日會(huì)合占領(lǐng)平度縣城。5日起，第8軍在空軍、海軍支援下向掖縣城進(jìn)犯。膠東軍區(qū)部隊(duì)頑強(qiáng)阻擊，多次實(shí)施反擊，予以重大殺傷，擊落其飛機(jī)2架，于11日撤出戰(zhàn)斗。

魯中軍區(qū)第9師為配合膠東軍區(qū)部隊(duì)作戰(zhàn)，于4日晚突然攻擊安丘縣城守軍，全殲1個(gè)保安團(tuán)及其他部隊(duì)4000余人，迫使第54軍由平度回援。此役，共殲國(guó)民黨軍1.5萬余人，粉碎了國(guó)民黨軍占領(lǐng)膠東解放區(qū)的企圖。戰(zhàn)役結(jié)束后，傷亡慘重的國(guó)民黨第8軍軍長(zhǎng)李彌都不得不承認(rèn)：“我?guī)П鴶?shù)年，從未遭如此嚴(yán)重?fù)p失?！?/p>