在前面一章里说到，日军攻占南京后，企图打通津浦铁路，南北兵力互相配合，在占领陇海铁路东段后，配合沿江的日军包围武汉，因此日军把攻击目标瞄准了徐州。1938年2月初，日军已经突破淮河；韩复榘的十万大军为保存实力连续败退，致使日军在短时间内占领了济南、泰 安、兖州、邹县、济宁、青岛、蒙城等地，直逼徐州的两个北大门滕县和临沂。由于日军用强大的兵力攻打滕县，国 军第122师在师长王铭章率领下与日军展开殊死战斗，最终由于兵力与武器装备悬殊，滕县被日军占领。
日军占领滕县后，集中力量夺取临沂。临沂是鲁南重镇，距台儿庄90公里，为徐州东北的屏障，又是各公路的交叉点。它南通新安镇至徐海，西南通台儿庄、枣庄，西北通费县、泗水、蒙阴、新泰，东北通莒县、诸城。临沂的战略位置关系到陇海、津浦两路的安危。由于临沂重要的战略地位，临沂成为日军进攻的重要目标。第5战区的李宗仁司令长官在经过深思熟虑之后，决定将临沂地区的防务交由庞炳勋第3军团担负。
2月上旬，第五战区调令驻防海州的第三军团庞炳勋部赶往临沂布防，阻击日军。庞炳勋部号称军团，实际上只有第四十军（庞炳勋兼军长），第四十军只辖第三十九师马法五部。全军兵力只有五个团，13000人。
日军第5师团占领青岛后，于2月21日收到了上级机关——第2军司令部的命令：“第5师团应以1个支队配合友军第10师团在津浦路方向的作战，并向临沂地区攻击前进”。于是师团长板垣征四郎中将把第21旅团21联队主力和山炮兵一个中队的兵力编组为片野支队，由第21联队长片野定见大佐指挥对莒县发起攻击。在片野支队攻占莒县后，师团长板垣中将为加强该处战力，又将第9旅团11联队和第21旅团42联队第2大队、野炮兵第5联队和片野支队约8000余人编组为坂本支队，由第21旅团长坂本顺少将指挥进逼临沂，企图与第10师团在台儿庄会师。
1938年2月下旬，日本最精锐的部队之一坂垣第五师团主力坂本支队和伪军刘桂堂部约两万人，自胶济线向南推进，先后占领了诸城、沂水、莒县，直扑临沂。国 军第五战区长官司令李宗仁向驻守东海、连云港一带的第三军团庞炳勋发报，命令其所属部队火速赶到临沂坚守。
庞炳勋第三军团当时有5个团，一万三千多人，到临沂后，庞炳勋做出军事部署：军部及第三十九师师部驻城南关的三乡师校园内；第115旅驻城东的相公庄；第116旅驻城北诸葛城；补充团在军部附近；骑兵师在相公庄以东地区。面对日军的进攻，全体官兵无不义愤填膺，誓灭 日寇。但由于日军不断向临沂方面增加兵力，庞炳勋部的处境已经危急万分，2月23日莒县失守。
3月2日，日军逼近距临沂仅60华里的汤头。3日，庞炳勋部在由青岛撤退的海军陆战队沈鸿烈部的协同下，与日军苦战一个星期，部队的伤亡非常巨大，被迫放弃汤头。汤头失守，它以南地区情势高度紧张起来，临沂城也觉唇亡齿寒。庞炳勋部一面抵抗，一面向李宗仁发报求援。
张治中第五十九军在向南撤退的过程中，先后在河北、鲁北、豫北等地与日军展开血战，参加了平津作战、津浦路北段沿线作战和平汉路北段沿线作战。日军占领南京后，国 军为了保卫武汉，把徐州作为武汉东北的屏障；日军要想夺取武汉，必须占领徐州，把徐州作为进攻武汉的前进基地。这样以来，徐州顿时成为敌我两军争夺的焦点。从1938年1月18日开始，徐州会战逐步展开。临沂是鲁南重镇，是徐州东北的屏障，也是第五战区右翼的重要据点，更是右翼日军西进会师台儿庄的必经之地，得失牵动整个台儿庄作战全局。
日军进攻临沂的是第五师团，师团长板垣征四郎是著名的“中国通”，是策划和执行“九·一八”事变的主谋之一。卢沟桥事变前夕，板垣征四郎升任第五师团师团长，所辖第五师团总兵力在25000人以上，装备精良、训练有素，是日本陆军最负盛名的4个师团之一，号称日本“铁军之铁军”。
3月2日，第59军接到命令后，军长张自忠亲自率部出征，昼夜强行军赶到临沂，在战区参谋长徐祖诒主持的高级军事人员会议上，张自忠说：“在一般情况下，59军以急行军到此，非常疲劳，似宜稍作休息，再与敌人作战。但兵贵神速和出敌不意，且以我劣势装备，对现代化之强敌，必须利用夜战、近战，方可奏效。应打破常规，提前开始行动。”
3月9日，日军板垣师团5000余人在飞机、大炮及坦克的掩护下，向庞炳勋所部发起进攻。庞炳勋部武器简陋，人员严重缺额。为了顶住日军的疯狂进攻，庞炳勋不仅将自己的卫队投入一线，而且连马夫、伙夫、担架兵、运输兵都投入了战斗。眼看庞炳勋部面临灭顶之灾，李宗仁命令张自忠率第五十九军火速赶到临沂增援。在向临沂增援的时候，张自忠对属下官兵说：“国家到了如此地步，除我等为其死，毫无其他办法。我等能本此决心，相信我国家及五千年历史之民族，决不至于亡于区区三岛倭奴之手。本人为国家、民族而死之决心，海枯石烂绝不动摇。今日所求，就是与诸兄弟共寻死所。”
3月10日，日军步兵八九千人，骑兵四五百人，在战车二十多辆、装甲车六十多辆、飞机十多架、炮三十多门的强大火力掩护下，开始向临沂猛攻。庞炳勋部与沈鸿烈部在危急时刻急忙给第五战区司令长官李宗仁发报请求支援，李宗仁命令第五十九军张自忠部增援临沂。同时，为了协调庞炳勋部与第五十九军作战，特派第五战区长官司令部参谋长徐祖诒赴临沂前线督战指导。当时张自忠部正在滕县向济宁、兖州一线的敌人进攻，接到命令后，当即以急行军速度星夜兼程，于12日到达临沂北郊的沂河西岸。到达后，庞炳勋要求第五十九军接替城防。张自忠则认为与其消极防御，不如以攻为守，打击日军侧背，以解临沂之围。庞炳勋采纳了张自忠的建议。
3月12日，张自忠率第五十九军主力赶到临沂西郊，决心与板垣师团一决雌雄。张自忠对几位旅长斩钉截铁地说：“此战只许胜不许败，否则军法无情。”14日凌晨3点，第五十九军强渡沂河，向日军板垣师团发起猛攻，张自忠率军部靠前就近指挥战斗。
3月13日深夜，张治中率领第五十九军运动到刘家湖、崖头、石家屯一线后，强渡沂河。14日凌晨，张自忠指挥全军暗渡沂水，向日寇“铁军”的精锐第5师团右侧背发起攻击，在亭子头、大太平、申家太平、徐家太平、沙岭子等处突破日军防线。刘振三第180师由诸葛城、大小姜庄渡沂河向徐家太平、大太平附近日军进攻，在亭子头遭到一股日军的顽强抵抗；黄维纲第三十八师由朱家棚、船流渡沂河攻占张家庄、解家庄、白塔。由于日军六百多人在飞机、大炮、坦克的掩护下拼命反击，黄维纲第三十八师被迫退回沂河西岸。同时，沂河东岸的庞炳勋部第四十军第三十九师也从正面开始反攻，并向青墩寺、尤家庄一带进攻，于14日晚上占领东西旺庄、东西沙庄。
第五十九军左翼第三十八师渡河后，经勇猛冲杀，一举攻占张家庄、解家庄，然后继续攻击，又克复敌坚固据点白塔村和汤佛崖。板垣征四郎第五师团不愧日军精锐，立即调来士兵五六百、炮八九门、装甲车四辆、飞机四架，向张家庄、解家庄凶猛反攻，双方激战数个回合，第三十八师伤亡400余人，被迫放弃刚刚夺得的阵地，退回沂河西岸。张自忠怒不可遏，当即下令将第一一二旅旅长李金镇撤职，令新兵团团长李九思升任旅长，并令其再次渡河攻击。
第五十九军右翼第一八○师渡河后，一路向徐家太平、沙岭子攻击；另一路向各太平及停子头方面攻击。激战数小时，连克徐家太平、小太平、郭家太平、李家太平、沙岭子，大太平村等。15日一早，第一八○师遵令向东庄屯、大太平、停子头等地攻击，其中停子头争夺激烈。张自忠亲往督战，令祁光远的第三十九旅向日军翼侧实施奇袭，日军阵脚混乱，向东西水湖涯溃退。来不及撤退的只得依靠房屋抵抗，但是都被国 军包围歼灭。
对于中国 军队这样猛烈的进攻，日军完全想不到，所以没有做好充分的准备，导致损失惨重，一夜之间，被国 军打死一千多人。日本第5师团被迫放弃正面攻城，转过来对第59军作战。双方展开混战，59军与日军在沂河两岸反复冲杀，战线犬牙交错，形成逐村、逐屋争夺的拉锯战。双方冲杀不下数十次，几度形成白刃战，第59军两师连、排长几乎全部换了人，营长也伤亡近半。
15日早晨，庞炳勋部继续向日军展开攻击，占领了郑寨子、黄家屯、东西沈庄、柳杭头，同时派骑兵从右翼迂回董家官庄、沟头一线。同一天，第180师攻克亭子头，日军向东、西水湖崖撤退，第38师再渡沂河，占领沙岭。
16日，日军增援部队千余人赶来助战，第五十九军与日军在刘家湖一带激烈争夺，刘家湖失而复得四次，崖头失而复得三次。这时候第五战区参谋长徐祖诒认为第五十九军已经连续苦战3天，伤亡已达3000多人，伤亡过重，建议张自忠撤出战斗休整。但是张自忠不肯撤退。这让徐祖诒非常震惊。领军将领大多怕久战损伤自己的力量而求援或急于撤出战斗，但是张自忠坚持再打一天一夜。他说：“我军伤亡很大，敌人伤亡也大。敌我双方都在苦撑，战争的胜利，决定于谁能坚持最后5分钟。既然同敌人干上了，我们就要用精神和血肉拼命干一场，不打败敌人誓不罢休！”
日军看到情势紧急，从汤坊崖西渡河向沂河西岸的张自忠部的阵地猛烈攻击，日军十多架飞机对国 军阵地进行轮番轰炸，第三十八师伤亡较重，但官兵仍然守住了阵地。16日晚上10点，59军向日军发起空前猛烈的攻击。全军官兵趁夜向盘踞在刘家湖、茶叶山、小苗家庄、凤仪官庄、船流、沙子岭、大太平等十多个村庄的日军发起空前猛烈的攻击。一时间，枪炮齐鸣，大地震颤。拼杀至17日凌晨4点，59军胜利攻克日军全部主阵地。战至17日上午，第59军已经伤亡惨重，仍坚守阵地，顽强战斗，攻克日军全部主阵地，板垣征四郎因愤怒绝望而要剖腹自杀，被下属劝阻。
庞炳勋部也发动强大攻势，激战一昼夜，先后占领尤家庄、傅家屯、东西水湖崖、沙河一带，日军退守李家五湖、傅家池、草坡一线。到18日早晨，庞、张两军一齐从东、南、西三面夹击汤头、傅家池、草坡一线的日军，经3天血战，临沂方面的日军约3个联队被完全歼灭，残敌大部逃向莒县，一部向北撤退。
17日上午11点，蒋中正从武昌致电李宗仁、张自忠、庞炳勋，对临沂大捷给予嘉勉，电报说：“临沂捷报频传，殊堪嘉慰。仍希督励所部确切协同包围敌人于战场附近而歼灭之。如敌脱逸须跟踪猛追，开作战以来之歼敌新纪录，振国 军之气势，有厚望焉。”
