攻下武昌后，曾国藩把目光瞄向了九江，如果说安庆是天京的屏障，那九江就是安庆的屏障，如果能把九江攻下来，湘军水师顺江而下，直接取安庆，对天京就是一个很大的威胁。
太平军方面，因为西征的失利以及武昌的失守，对湘军格外重视，知道这支队伍和以往的清兵可不一样，这支队伍的战斗力是非常强的。东王杨秀清命令燕王秦日纲亲自到九江的上游田家镇半壁山一带布防，阻止湘军东进。田家镇半壁山是长江的咽喉要道，浩浩长江一路东流，到田家镇这边忽然变窄，是三峡以下最为狭窄的地方，宽度只有五百米。在这个地方，长江的南岸是半壁山，北岸是田家镇，地势非常险要，所以太平军在这个地方布防。
为了有效阻止曾国藩的湘军，秦日纲在北岸田家镇安下大营，修建了一座土城，并且在沿岸四十多里都安置了炮位，炮口瞄准江面。秦日纲在南岸的半壁山上也扎了五座营，另外还在田家镇和半壁山之间拉了两道铁锁，铁锁下边的江面上排列了几十艘小船，这些小船都安装了枪炮，为的也是对付湘军的水师。
针对这种情况，曾国藩和湖广总督杨霈商量了下，决定兵分三路进攻。其中南路由湘军陆军将领塔齐布和罗泽南率领湘军进攻长江南岸的大冶和兴国（今湖北阳新），这时候的塔齐布因为战功已经被封为湖南提督了，而罗泽南也因为战功被封为知府；北路由湖广总督杨霈和陕西提督桂明率领绿营兵进攻蕲州（今湖北蕲春）、广济（今湖北武穴）；中路由杨载福、彭玉麟率领湘军水师顺江而下，曾国藩和手下将领李孟群随后而进。三路大军最终都在田家镇会师。这时候的曾国藩已经非常重视陆军和水军协同作战了，这种战术可以让水军利用自身的优势帮助陆军，进而使得陆军大占便宜，以后的战斗中曾国藩非常重视这种配合。
咸丰四年，三路清军先后从武汉出发，不久，长江南岸和北岸两路大军双双告捷，和曾国藩会师半壁山。曾国藩观察完形式，认为半壁山地势险要，只有先攻下这里，才能将长江上的铁锁拔掉，于是曾国藩令罗泽南和塔齐布合力攻打半壁山。太平军知道湘军到来后，从田家镇渡过长江大举来攻，将罗泽南和塔齐布冲成两部分，罗泽南在靠近半壁山的地方，而塔齐布被阻隔到富水对面的富池口。当时罗泽南手下仅有两千多人，而渡江过来的太平军却有近万人，罗泽南决定先固守，等太平军懈怠了再出击。不过罗泽南的战术难度有点大，湘军刚到这里，一点防御设施都没有，想防住冲过来的太平军，很困难。
湘军将士看到漫山遍野的太平军杀过来，有不少人都吓住了，甚至有几个人已经开始往后跑了。临阵脱逃，很容易乱了军心，弄不好剩下的湘军都会跟着他们一起逃跑。忽然，湘军人群里边跳出一名将领，快速三刀，将往回跑得士兵砍翻，大家一看，正是罗泽南的学生李续宾。李续宾既是罗泽南的学生，又是湘军一员悍将。李续宾杀完逃兵，所有的湘军都不敢跑了，留下来坚守阵地。太平军猛攻湘军阵地，都被湘军挡住了，罗泽南看太平军士气渐渐没了，令湘军突然攻击，太平军大败往回跑。被阻隔在在富池口的塔齐布也率领自己手下的湘军杀过来，切断了太平军的退路。太平军进也不是，退也不是，在半壁山再次大败，有不少太平军都被湘军逼得走投无路，从半壁山的悬崖上摔下去。这一战，湘军杀死好几千太平军，剩下的太平军逃回长江北岸的田家镇，半壁山被湘军占领。
湘军占领半壁山后，派了一百多人从半壁山的悬崖上用绳子坠下，攀降到悬崖底部，将横在江上的铁锁砍断。刚好太平军将领韦志俊、石镇仑、韦以德率兵从芜湖赶来，秦日纲又一次渡江攻打半壁山，双方鏖战数天，石镇仑、韦以德等千余人阵亡，秦日纲和韦志俊败回北岸。第二天太平军用战船重新将断掉的铁锁连到半壁山下，由于湘军水师还没到，湘军无法阻止太平军连铁锁。
杨载福和彭玉麟的水师到达半壁山后，两个人商量了下，把水师分成四队，然后和岸上罗泽南、塔齐布的步兵一起进兵。湘军水师第一队都是小船，船上用炉子烧好大火，并且准备好斧头，开战之后，第一队顺流快速地冲下去，到铁锁下边的时候，开始行动，一边用大火烧铁锁，一边用斧头砍，终于把铁锁弄掉。第一队的人大喊铁锁开了，太平军大惊，纷纷逃走；第二队是彭玉麟率领的水军，紧跟第一队后边冲上去，这队是对付太平军的炮船。太平军见铁锁已经被烧断，正想用炮船攻击湘军，湘军的炮船已经发射了，击毁太平军两艘炮船；第三队是杨载福率领的水军，这一队的任务是放火，杨载福等彭玉麟过去后，率领手下湘军冲入太平军的水军放火，太平军的几千艘船顿时着火，全部被烧毁。秦日纲、罗大纲、陈玉成等人见清兵已经攻破长江防线，烧毁田家镇的营垒，退往黄梅。前边三队水军过去后，太平军已经大败，第四队水军保护着曾国藩的大船随后到了田家镇。
经过这一仗，湘军重创太平军的水师，烧毁太平军船只几千艘，从此以后，湘军在水上横行无忌，一直等到石达开打破这一局面。
