从1938年11月到1939年12月，张自忠指挥所部接连在鄂北进行了几次中小规模的战役，歼敌不下4000人，其中尤以京山之役战绩最佳。国民政府主席签发命令，授予张自忠宝鼎勋章一枚。1939年5月2日国民政府又颁布命令，为张自忠加授上将军衔。
1939年5月，日寇冈村宁次调集4个师团、2个旅团及坦克、炮兵、工兵等特种部队约12万人兵分两路大举进犯鄂北的随县、枣阳地区。张自忠一面命令正面部队死守，一面火速派2个师迂回到敌后方，两面夹击日军。张自忠亲自率骑兵第9师及总部手枪营渡过襄河向敌猛攻，拦腰截击敌军主力，在田家集大败日军，粉碎了日军围歼第33集团军的企图。随后第5战区左右兵团全线反攻，一举收复枣阳、桐柏等地区，史称“鄂北大捷”。
枣、宜会战中国军队的炮兵阵地1939年12月，日军又集中大量兵力向驻守长寿店地区的第33集团军所属第132师等部阵地进攻，双方激战7昼夜，132师阵地多次被突破。张自忠决定用奇兵打敌作战中枢的战法挫败敌人，他调第132师的第359团另配1个营，令其于夜间绕道偷袭日军设在钟祥县的总指挥部。
临出发前，他鼓励将士们说：“国家养兵就是为了打仗，打仗就会有伤亡。人总是要死的，多活20年少活20年转眼就过去了。但死有重于泰山，有轻于鸿毛，为国家为民族而死就重于泰山，否则轻如鸿毛。”
在张自忠的激励下，奇袭部队当晚潜行30里路，一举端掉日军总指挥部。正面进攻的日军惊闻老巢被端，大为恐慌。张自忠指挥部队趁势猛烈反攻，打得日军狂退60里，大获全胜。此次会战中国军队共歼敌1万余人，其中张自忠右翼兵团歼敌4500余人，缴获军马74匹及大批军用物资，此役史称“襄东大捷”。
几役之后，张自忠受到军民的尊敬，老百姓美称他为“活关公”。一首题为《颂张自忠》的诗这样写道：
“军称模范久驰名，誓与倭奴苦战争。
深夜出兵来杀贼，刀光闪烁气峥嵘。”
