魏国灭掉蜀国以后，公元２６５年，司马炎逼迫魏主曹奂“禅位”自己称帝，建立晋朝，史称西晋。接着便派羊祜都督荆州诸军事，驻守襄阳，对付吴军。
羊祜，字叔子，原费县南城（今属平邑县）人，出身于名门世家。他相貌英俊，德才兼备，胸藏韬略，是晋初难得的贤臣。魏末历任中书侍郎、秘书监、相国从事中郎等职，掌管军事机要。晋武帝时，升任尚书左仆射、卫将军。
羊祜刚到襄阳时见吴主荒淫暴虐，朝中人人自危，想发兵一举灭掉吴国。但是他的对手是东吴名将陆逊之子陆抗，此人足智多谋，极善用兵。当时，东吴西陵守军将领步阐叛变，陆抗随即率军包围了西陵。羊祜派兵增援步阐，结果竟被陆抗大败。步阐也兵败被夷灭三族。这一事件使羊祜认识到东吴还有相当的实力，于是改变了原来急于求成的战法，采取了怀柔之计，一方面构建要塞，加紧屯田，整顿军队，一方面主动与吴军搞好关系，务修德信以瓦解吴国军民的斗志，待时机成熟后再完成统一大业。
他的具体做法是：
一、吴人有降而欲去者，皆听之。
二、减少戍守巡逻的士卒。巡边时若割了吴境的庄稼，设法送绢给吴地的农家。因摩擦争斗而死的吴军将士，厚加装殓，并厚待前来迎丧的死者家属。
三、吴军沿边狩猎，凡吴军射杀的猎物，一律归还给对方。并勒令晋军“只在晋地打猎，不犯吴境”
四、主动与陆抗互通情好。一天，羊祜带领众位将领出外打猎，正巧赶上陆抗也出来打猎。羊祜命令道：我方的军队不许超过边界。众位将领接到命令，便只在晋国的地界内围猎，不侵犯吴国边境。陆抗见到此情此景，赞叹道：羊将军有纪律，不能够冒犯他呀！当天晚上，各自退回自己的驻防地。羊祜回到军营，查问所猎到的禽兽，如果有被吴方先射伤的，全都送还对方。吴方的人自然高兴，连忙来向陆抗报告。陆抗将送还猎物的人召了进来问道：你们的主帅能喝酒吗？来人回答：必须有好酒他才饮。陆抗笑道：我有一斗酒，藏了很久了。现在交给你带回去，请转告羊将军，这是我陆某亲自酿造供我自己饮用的，特此奉上一壶，以表达昨日出猎时以礼相待之情。来人答应了，携酒回去。陆抗身边的人问陆抗：将军送酒给他，是什么用意？陆抗说：他既然对我们表现出恩德，我怎么能不予以答谢？大家都感到十分吃惊。
再说来的人回去见了羊祜，把陆抗的问话以及送酒的事全都报告给了羊祜。羊祜笑着问：他也知道我善饮酒吧？便命令当场打开酒壶取出饮用。他的部将陈元说：其中只怕有奸诈，将军还是先别饮得好。羊祜笑道：陆抗哪里是给酒下毒的人，不必疑虑。 羊祜当着众人一饮而尽。从此，双方使者往来，彼此互通问候。
又有一次，羊祜从吴方使者口中听说陆抗病了，便将亲自调制的药物托来者捎给陆抗。陆抗服后“次日病愈”他感慨万分地对部将说：羊祜专以仁德待我，我若以残暴待他，那么他将不战而降服我军士兵。从今以后，我军要自保疆界，不能再在微细的小利上与晋军相争。
随着羊祜一系列怀柔措施的实施，时日一长，果然感动了吴地军民，使其“怀严敌之德”并有“弃主之虑”后来，吴晋双方在前线上交好的消息传到了吴主孙皓的耳朵里。孙皓大为不满，并查问陆抗，陆抗说：就连一邑一乡还不可以无信义，更何况大国呢？羊祜一再表示友好，我若不以礼回答，反而使羊祜的仁义德行更加彰显，若反其道而行之，倒是伤不到他的一根毫毛。再后来，孙皓听信谗言，几次主张侵犯晋的边境。陆抗却上疏反对说：今不奖励耕织，增加财富，不审察官吏，选用贤能，安抚百姓，却听信胡言，穷兵黩武，寇不为衰，我们自己却陷于被动，这不是强国的良策。由此可见，羊祜的怀柔政策确实达到了“夺敌之心”的效果。更为明显的是，后来羊祜病死，消息传到荆襄一带，军民哭声一片。吴地的军民闻讯后也纷纷落泪。人们在他生前常登临的岘山上建了一座石碑，上面写着“晋故持节侍中太传巨平侯羊公之碑”行人至此，均怆然泪下。
老子《道德经》上说：柔之胜刚也，弱之胜强也，天下莫不知。以柔克刚是一种高超的斗争谋略。由于所遇到的具体情况千差万别，以柔克刚的表现方式也不同。但总的表现都是：用柔的、软的、温和的，很合乎礼仪的方式、方法或手段来战胜顽敌——政治斗争中的对手或是军事上的敌人。其优越性在于：第一，能争得舆论的同情、支持；第二，能赢得时间，变被动为主动；第三，能逐渐挫伤对手的士气和锐气，达到后发制人的目的。羊祜“以恩结之”的谋略，贯穿着“攻心为上”的精髓。俗话说：得人心者得天下，失人心者失天下。为将之道在于攻心。正由于羊祜采用了攻心战术，才有力地瓦解了东吴军民的仇恨之心、戒备之心。
应该指出的是，羊祜在行“怀柔之计”表面上与吴军修好的同时，一刻也没有放松伐吴的准备。他加紧屯田，开垦良田，使晋军粮草充足，兵强马壮。同时又推荐部下王浚出任益州刺史。益州处于长江上游，伐吴时顺江而下，必然会势如破竹。王浚到益州后大造战船，操练水军，后来在灭吴时果然起了极大作用。
