4月21日，第5師團(tuán)從臨沂出發(fā)，向向城發(fā)動(dòng)進(jìn)攻。同日，日軍第10師團(tuán)第10聯(lián)隊(duì)猛攻臨城、第63聯(lián)隊(duì)狂攻棗莊。中國方面，57軍在向城，51軍在臨城、棗莊一線阻擊日軍，雙方激戰(zhàn)兩天，51軍一部在付出巨大傷亡代價(jià)的情況下，不得不首先放棄棗莊。51軍主力和57軍迫于形勢(shì)，不得不在其后半個(gè)小時(shí)放棄臨城和向城向韓莊和底閣撤退，構(gòu)建第二道防線。雙方又激戰(zhàn)兩日，51軍沿大運(yùn)河方向撤向臺(tái)兒莊；57軍在張自忠的率領(lǐng)下，與第5師團(tuán)再戰(zhàn)兩日，在達(dá)到預(yù)期阻擊目的以后，主動(dòng)撤離，也退往臺(tái)兒莊。