在了解到日军行动目的后，蒋中正于5月5日向李宗仁发报，指出各路日军“共只三师团强，且皆由其他方面拼凑而来，以配布于平汉、信南、襄花、京钟、汉宜各路之广大正面。其每路兵力不过一旅团，最多至一师团。力量至属有限，并无积极甚大之企图，可以推见我军正宜识透敌情，把握时机，不顾一切奋勇猛进，必予敌以致命之打击。”
同一天，第五战区针对日军态势调整部署：以第29集团军任大洪山游击作战，并侧击京钟、襄花两路日军；左集团孙连仲指挥第1游击纵队任桐柏山游击作战，并向西南侧击襄花路日军；江防军除原任务外，应以有力部队渡河东进，向皂市、濂山方向进击，威胁日军后方，策应右集团作战；右集团仍以一部固守襄河西岸，主力在襄河以东地区，与中央集团协同围歼由钟祥北上的日军；中央集团应于现阵地阻击、迟滞日军西进，不得已时应以确保襄、樊为目的，于枣阳以东逐次抵抗，尔后以一部在枣阳以北与右集团和大洪山游击军协同，攻击日军侧背，主力向唐河、白河以西转移；第2、第31集团军和第92军应于桐柏、泌阳以东地区围歼西进的日军，不得已时向唐河以西转移。
各路日军突破第五战区第一线阵地后进展迅速，以每天30到40公里的速度向前突进。5月7日，第3师团占领唐河，第13师团北进至王集，第39师团进抵随阳店，对枣阳构成合围之势。但各路日军之间空隙较大，守军逐次抵抗后，在日军包围圈尚未合拢时及时转向外线。只有第84军第173师在枣阳附近掩护主力转移，撤退不及，遭日军围攻，损失较大，师长钟毅阵亡。5月8日，日军占领枣阳，宣称汉水东岸作战的目的已经达到，其实日军并没有实现捕捉第五战区主力加以歼灭的企图。事实上，五战区已经在日军四周集中了二十三个师的兵力，准备强行决战。
国 军决策群判断日军必将向原阵地退却，主要退路只有襄花路，而襄花路因刚刚下过大雨后车辆难行，因而命令第五战区各部队应乘日军处于不利地位、补给缺乏、退却困难之机，以全力将其歼灭于战场附近，尔后向应城、花园一线追击。第五战区随即部署对日军的反攻。
5月8日晚上8点，日军第3师团、第13师团、第39师团即将会师，第十一军命令前线各师团在抵达唐河到白河一线后返回原驻地，准备执行汉水西岸的包围战。晚上十一点，国民政府军事委员会向五战区下达了总攻命令，此时第三十一集团军的六个师在北部，南阳地区急速南下的第三十三集团军的五个师在南部，四十五军和九十四军尾追日军的五个师在东南，国 军各路大军已经对日军形成了包围，一场激战就此展开。
5月10日，国 军第三十三集团军主力与日军发生激战，日军认定这是消灭中国 军队的好机会，当即命令第十三师团、第三十九师团和池田支队南下，对三十三集团军发起猛烈进攻，同时以第三师团掩护日军北翼。
5月12日，日军以两个师团对国 军三十三集团军的五个师发起全面进攻，第33集团军立即陷入苦战。由于中国 军队保密意识不强，军事委员会与第五战区间往来电报都被日军截获破译；日军还从张自忠向蒋中正报告有关所率5个师行动的电报中了解到第33集团军的具体位置。于是园部和一郎决定：集中第13、第39师团的兵力，沿汉水东岸南下，反击张自忠集团军，命令在新野以南的第3师团撤至枣阳附近，掩护后方。
日本情报部门还根据电台联络呼号和电波方向早就测知第33集团军总司令部电台的向外联络情况和位置。这次了解到张自忠总司令部在宜城东北约10公里一带地方，日军便在飞机的配合下向这一地区发动合围。当时第33集团军只有张自忠两个团驻守襄河西岸。张自忠作为集团军总司令，本来可以不必亲自率领部队上前沿阵地作战，但他不顾部下的再三劝阻，坚持由副总司令留守。张治中早已做了以身殉国的准备，还在5月6日晚上，张治中给副总司令兼77军军长冯治安写了一封信，是这样写的：
“仰之吾弟如晤：因为战区全面战争之关系，及本身之责任，均须过河与敌一拼，现已决定于今晚往襄河东岸进发，到河东后，如能与38师、179师取得联络，即率两部与马师不顾一切，向北进之敌死拼。若与179师，38师取不上联络，即带马师之三个团，奔着我们最终之目标往北迈进。无论作好作坏，一定求良心得到安慰，以后公私均得请我弟负责。由现在起，以后或暂别，永离，不得而知，专此布达。”
他自己亲自率领2000多人渡河作战。到了15日，张自忠率领剩下的1500余人被6000多名日军包围在南瓜店以北的沟沿里村。当日上午，日军发动猛烈进攻。当时的情况是敌我力量极其悬殊，战斗异常惨烈。到下午2点，张自忠手下只剩下数百官兵，他将自己的卫队悉数调去前方增援，身边只剩下高级参谋张敬和副官马孝堂等8人。到下午三点，张自忠身边士兵已大部阵亡，他本人也被炮弹炸伤右腿。此时，他已撤至杏仁山，与剩下的十几名卫士奋勇抵抗，竟将蜂拥而至的日军阻于山下达两个多小时。15日晚上，日军第39师团从方家集、南营向南瓜店逼进，激战到16日佛晓，张自忠部被迫退入南瓜店十里长山。日军在飞机大炮的掩护下，向中国 军队的阵地发起猛攻。一昼夜发动9次冲锋。张自忠所部伤亡人员急剧上升，战况空前激烈。张治中知道以身殉国的时刻到了，于是拿出钢笔写下了下面一段话：
“国家到了如此地步，除我等为其死，毫无其他办法。更相信，只要我等能本此决心，我们国家及我五千年历史之民族，决不至亡于区区三岛倭奴之手。为国家民族死之决心，海不清，石不烂，决不半点改变。”
16日拂晓，日军完成了对第33集团军总司令部的包围。在强大炮火支援下，日军对第33集团军总司令部进行四面围攻。守军第74师进行英勇抵，并不断实施反冲击，激战到下午，特务营也参加了战斗。此时日军进攻部队已经达到5000多人，集中炮火和兵力向守军的最后阵地发起总攻，并有20多架飞机助战。此时张自忠已经多处受伤，但是仍然镇定地指挥战斗。
激烈的战斗一直进行到第74师与特务营的子弹全部打光，最后官兵伤亡殆尽。不久，大群日军已冲到面前。根据日方资料，日军第四队一等兵藤冈是第一个冲到近前的。突然，从血泊中站起来一个身材高大的军官，他那威严的目光竟然使藤冈立即止步，惊愕地愣在那里。冲在后面的第三中队长堂野随即开枪，子弹打中了那军官的头部，但他仍然没有倒下！清醒过来的藤冈端起刺刀，拚尽全身力气猛然刺去，那军官的高大身躯终于轰然倒地。这时是1940年5月16日下午4点。
蒋中正惊闻张自忠殉国，立即下令第5战区不惜任何代价夺回张自忠的遗体。一百多名优秀将士抢回张将军的尸骨，经检视，张自忠身有八处伤口，其中炮弹伤二处，刺刀伤一处，枪弹伤五处。当灵柩经过宜昌时，全市下半旗，民众前往吊祭者超过十万人。全城笼罩在悲壮肃穆的气氛中。敌机在上空盘旋吼叫，却无一人躲避，无一人逃散。1940年5月28日早上，当灵柩运至重庆朝天门码头，蒋中正、冯玉祥等政府军政要员臂缀黑纱，肃立码头迎灵，并登轮绕棺致哀。蒋中正在船上抚棺大恸，令在场者无不动容。
蒋中正亲自扶灵柩拾级而上，护送灵柩穿越重庆全城。国民政府发布国葬令，颁发“荣字第一号”荣哀状。将张自忠牌位入祀忠烈祠，并列首位。
28日下午，蒋中正与军政要员和各界群众在储奇门为张自忠举行了盛大隆重的祭奠仪式。气氛庄严，极尽哀荣。蒋中正亲自主祭，同时以军事委员会委员长的名义通电全军，表彰了张自忠一生的勋绩。随后，国民政府在重庆北碚雨台山为张自忠举行下葬仪式。蒋中正题词“勋烈常昭”，李宗仁题词“英风不泯”，冯玉祥题词“荩忱不死”。据史沫特莱记载，蒋中正的办公桌从此摆上了张自忠的遗像。
张自忠殉国时，年仅49岁，他的夫人李敏慧女士得到男人牺牲的消息，悲痛欲绝，绝食七日而死，夫妻二人合葬在重庆梅花山麓，后建有张自忠将军陵园和张自忠将军纪念馆。周恩来亲自写下文章称赞张自忠“其忠义之志，壮烈之气，直可以为中国抗战军人之魂”。
在第二次世界大战中属于反法西斯阵营的五十多个国家中，张自忠是阵亡将士中军衔最高的将领-——第33集团军上将总司令。张自忠不愧为“抗战军人之魂”。
张自忠虽然牺牲了，但他活在中国人民的心中，并且将永远铭刻在中国人民心中，流芳百世。
后人有诗《张治中·狂歌民族魂》赞张治中将军：
“裹革沙场骨尚温，捐糜顶踵为生存。黄河浩荡流奇气，襄水斑烂洒血痕。风雨中原恢汉土，衣冠此日认黄孙。忠贞已足昭千载，我欲狂歌民族魂。”
