上一章正说到，孙元良第88师在持志大学、爱国女子大学附近与日军展开了殊死拼杀，黄梅兴旅长英勇牺牲。但是残酷的战斗还在继续。第36师、第87师、第88师从排、连、营、团到旅、师各级几乎全部以黄埔毕业生为骨干军官，全部配属德式装备，是当时中国最精良的部队，被称为模范教导师。这3个师在上海与日军血战3昼夜，打出了黄埔军人的威风。
宋希濂把指挥所设在沪江大学西面的一处民宅，视察阵地后，召集营、团长开会，部署进攻方案：第211团为右翼，陈瑞河第106旅为左翼，彭戢光第108旅配备战车第1连及防御炮1个连担任中央队，中央队第216团担任主攻。
8月20日夜12点，随着总司令张治中一声令下，第36师各部队向汇山码头发起总攻，第216团沿北丰路、公平路突击前进。日军的子弹飞蝗般的在空中呼啸，但是官兵们个个舍生忘死、勇猛冲锋。当部队冲到唐山路和华德路口时，日军的火力更加密集，持续1个多小时，团长胡家骥身先士卒，带头冲在最前面，士兵们士气大振，一鼓作气冲过华德路、百老汇路，逼近汇山码头。日军支持不住，争相溃逃，我军乘势追击，终于冲进码头。
然而却无法摧毁坚固的铁栅门，情急之下，胡家骥团长攀上铁门，士兵跟着纵身翻越，此时，码头两侧敌军发炮轰击，部队遭受重大伤亡，宋希濂急忙命令该团撤出战斗。这次战斗很多官兵壮烈牺牲，死伤570多人，日军也死伤400多人。其余各部激战一夜，给敌以打击，但终因缺乏攻坚武器，无法摧毁日军工事，攻势受阻。
第二天，宋希濂调来战车，掩护步兵再度攻打汇山码头，到第二天清晨，又受日舰强大火力的阻击，只得退回百老汇路北侧。撤退途中，国军坦克遭到日军强大炮火的袭击，仅有的2个战车连车毁人亡，全军覆没。究其原因，除了敌人炮火太过猛烈之外，还在于部队之前从未进行过步坦协同作战或演练，步兵根本不懂为坦克提供掩护，以为这黑乎乎的庞然大家伙所向披靡无坚不摧，所以任由它轰隆隆开上前，做了日军炮火的活靶子。
黄埔1期的第78军军长兼第36师师长宋希濂亲自率领陈瑞河为旅长的第106旅为突击部队，沿天宝路向日军发起猛烈进攻。由于缺乏攻坚炮火，第36师官兵只能逐步接近日军的火力点，用手榴弹爆破攻击日军，自己的伤亡非常大，几乎是用血肉之躯一步步向前推进。开战不久，陈瑞河旅长就已经身负重伤，但是仍然坚持一路攻击前行，目标是日军的重要据点——汇山码头。担任主攻汇山码头的是胡家骥的第216团，任务是将汇山码头的守卫日军赶入黄浦江，并占领阵地，阻止日军增援部队登陆。
胡家骥以彪悍勇猛著名，每战必身先士卒，宋希濂常把他叫到面前教训：“你现在是团长，不是排长。团长就应该待在团长的指挥位置上！”胡家骥总是笑着说：“一时手痒，下次一定改正。”
身先士卒，是抗战时期一线黄埔军官的普遍战斗作风。这一次，胡家骥再一次冲在队伍的最前面。两名护卫先后牺牲，胡家骥也有5处受伤，但是他依然率部冲过唐山路、东熙华德路、百老汇路，直逼汇山码头。
汇山码头是上海的原日本邮船码头，位于黄浦江下游西岸，提篮桥南侧。“汇山码头”这个名字来自租界初开时的一个随便命名“路边的码头”，1845年英国麦边洋行在江边建造浮动码头，将其所建码头称为汇山码头。
汇山码头东起秦皇岛路，西至公平路，北至东大名路与杨树浦路，岸线长约825米，为客货运码头。汇山大码头连接着天津、福州、长沙、台湾等洋务运动的重要口岸。中国正是从汇山大码头驶入了近代经济时期的。甲午战争后的1903年，麦边洋行将汇山码头连同它在长江航线上的轮船，以250万日元的价格卖给日本邮船会社，改建为日本邮船会社码头，这个钢筋混凝土码头全长260米，前沿水深7米，是当时上海港最好的码头。码头后方建有仓库10座，总容量4万吨，另有露天堆场可堆货8000吨。
汇山码头西部为华顺码头，华顺码头又名老宁波码头，建于1860年，原名宝顺码头，属于美商旗昌轮船公司，1877年卖给了招商局，光绪九年又转卖给英商公和祥码头公司，并改名华顺码头。直至1937年与日商经营的黄浦码头、杨树浦码头、汇山码头以及英商经营的华顺码头，统称为汇山码头。八一三淞沪抗战时是日军据点之一。日本占领上海期间，日军军火通过汇山码头登陆远运，仓库里储藏着大量军火。
此时的胡家骥虽然已经官居团座，按照道理作为数千人马的主官，他的职责是指挥好所属的各营、各连如何按照他的部署，向日军进攻，没必要再去冲锋陷阵。除非到了万不得已全团接近大部阵亡，或者完全处于险境，作为团长，自然的责无旁贷需要亲自带领弟兄们与敌人拼命。可是胡家骥只要上了战场，早把这些忘在了脑后，还是像他刚从黄埔军校毕业当见习排长一样，他再给各营、各连下达作战任务之后，自己也拿起了枪冒着日军的炮火和密集的子弹带头向日军阵地冲过去，他有时匍匐前进，有时候站直身体向日军阵地射击，沿北丰路、公平路一路突击前进。
20日清晨，日军为了报复中国海军的夜袭，连续发动反扑，但是日军的攻击遭到了中国军队的迎头痛击，被打死了五百多人，日军不甘心地撤退了。
8月20日，南京国民政府大本营颁发发了《国军战争指导方案》和《国军作战指导计划》，编定全国战斗序列，划江苏长江以南(包括京、沪)及浙江为第3战区，以冯玉祥为战区司令长官，颁布作战指导方针：
指导方针：该战区应以扫荡上海敌军根据地，并粉碎在沿江沿海登陆取包围行动之敌，以达成巩固首都及经济策源地，为作战指导之基本原则。
1、作战方针：第3战区以巩固首都及保有经济策源地之目的，迅速围攻上海附近之敌，并打破敌军在沿江、沿海登陆之企图。
2、兵团防区划分：苏州河以北，沿黄浦江以西，属第9集团军，以张治中将军为总司令。苏州河以南、浦东及杭州湾左岸，属第8集团军，以张发奎为总司令。
蒋中正在1937年8月20日颁布的《国军作战指导计划》中“指导要领”中关于第三战区指导要领的全文中提到：“第三战区对于侵入淞沪之敌，应迅速将其扫荡，以确保京沪政治经济重心。同时对于浙江沿海敌可登陆之地区，迅速构成据点式之阵地，阻止敌人登陆，或乘机歼灭之。”第一战区近迫该当面之敌，实行柔性之攻击，以吸引其主力，俾我第二第三战区之作战，得从容展布。
根据《国军战争指导方案》和《国军作战指导计划》的部署，国军于清晨分3路发起总攻，第98师全力进攻杨树浦。第36、87师推进到百老汇路、唐山路、华德路一线。第99师、11师及教导总队第2团控制江湾、市中心区，为总预备队。
蒋中正亲自下达了上任后的第一份命令－－－向汇山码头的日军发起猛攻！20日下午4点，中国空军对汇山码头等日军阵地进行轰炸。
20日晚上，各大报馆的《号外》调整了早上公布的战果，中国海军击沉日军军舰三艘，总排水量超过一万吨！这是中国军队在前面的抗战中前所未有的大胜利！海军部在一天之中三次去电话褒奖，江阴要塞国军出尽风头，江阴要塞上上下下都激动不已！
海军的表现逼迫着陆军尽快拿出对应的成绩，晚上21点，张将军下令各部准备于21日零点发起对汇山码头的进攻，然后要求参战各师召开营级以上军官会议，具体落实集团军总部的作战方案。
21日零点，第9集团军除第88师发动牵制性进攻以外，第36师、第87师、第98师向日军发起全面进攻，此次主攻的部队是36师，给大部队在前面开路的是杜聿明少将指挥的装甲兵团第1营，经兆丰路攻向汇山码头。
36师216团团长胡家骥上校指挥2000名官兵在装甲部队后跟进，天亮以前就突破日军好几条街道，106旅推进至沙泾港、岳州路、昆明路一线，在天色变白以前与进攻的87师一部会合。
第98师292旅向汇山码头外围一带日军攻击，294旅则配合36师，由沙泾港至保定路正面向百老汇路推进。当夜各师进展顺利。
天亮后，日本舰队立刻组织舰炮火力对国军突入部队实施火力覆盖，中国军队的步兵在炮击下举步维艰，无法即时跟进坦克作战，失去了步兵掩护的坦克车辆孤军深入，很快陷入日军重围，有些坦克被日军的爆破组炸毁，但大多数坦克是被日军的反坦克炮击毁，最后仅有3辆战车冲进了汇山码头核心阵地，但很快也遭到日本海军舰炮的打击，中弹起火。装甲营1连连长郭恒健上尉和2连连长郑绍炎上尉在攻击中阵亡。
失去坦克之后，36师、87师和98师与日军在唐山路、兆丰路、汇山码头一带展开血战，此地段都是高层大楼，日军居高临下用交叉火力阻击，出动装甲车辆与中国军队在逐街逐巷展开战斗，战况空前惨烈！
第36师212团第1营攻至舟山路与华德路的交叉口，遭到两旁高楼的日军交叉火力射击，官兵死伤非常多，营长吴垂昆少校身负重伤，带伤指挥作战。106旅旅长陈瑞河少将闻讯赶到一线指挥，也受了重伤。师长宋希濂下令212团团长李志鹏上校接替指挥，并急调215团支援，继续向日军猛攻。该团第2营营长李增少校身先士卒，当场阵亡，该营见正面攻击无法得手，便从一条小巷迂回，准备从高楼后面攀窗而上，突入日军阵地。
结果该营正在攀登时，日军坦克突然冲出，切断了通往街道的唯一一条巷口，然后用燃烧弹猛轰，三百多名官兵葬身火海，无一生还！
216团经数小时苦战，拿下了百老汇路，直冲汇山码头，由于炮兵没有跟上，无法摧毁坚固的码头大铁门，只得翻墙进入，该团团长胡加骥上校带着两名卫兵带头翻入墙内，立刻遭到日军侧翼火力射击，两名警卫为掩护团长一死一伤，胡加骥上校也身中5弹！幸未击中要害。胡团长重伤不下火线，立即组织火力与日军对射，继续指挥作战！此时整个36师都杀红了眼！所有官兵都不要命地跟日军拼杀。
与此同时，87师也开始向日军发起猛烈攻击，259旅战至午后，已经先后攻占了几处日军阵地，但是仍然被受阻挡在汇山码头外围。261旅已收复杨树浦，逃出阵地的日军纵火烧街，企图阻挡国军攻势，但这股日军的退路被36师切断，不得不退入英国租界，向英军缴械投降。
张发奎所部为协同杨树浦方面对日军的进攻，下令第55师337团和一个炮兵营于21日午夜进攻新三井码头及其附近的日军。至22日凌晨4点攻占码头，残余日军退到江面军舰。此外，在浦东长江口沿岸，第57师和55师一个团进入柘林、南桥、闵行一线防御，并在金山卫至海宁一带杭州湾北岸构筑防御工事，不久由第28军等部接替防御。
国军在21日一天的战斗中付出了巨大损失，但是这一天国军对上海日军的打击也非常巨大，日本海军陆战队的最后防线已处于崩溃边缘。
