淮南的叛乱平定后，魏景元元年（260年），司马昭进位相国，封晋公。魏皇帝曹髦见权势日去，迟早要被废掉，召来侍中王沈、尚书王经、散骑常侍王业，对他们说：“司马昭之心，路人皆知也，我不能坐受被废的耻辱，现在我应当同你们一齐讨伐司马昭”。王经说：“过去鲁昭公不能容忍季氏，结果失败丧国，为天下耻笑，如今权归司马氏已很久了，朝廷以及州郡官员都为他们效力，并且我们掌握的宿卫兵太少，这样做太危险了。”魏帝从怀中拿出诏书扔在地上说：“我决心已定，即使死，又有什么可怕？况且也不必就死。”于是入告太后。王沈、王业急忙跑去向司马昭报信，并拉王经一齐去告发，王经不从。曹髦率殿中宿卫、官仆等鼓躁而出，挥剑与贾充在南阙，贾充部下想逃散，太子舍人成济问贾充“事急矣，当云何”？贾充说：“司马公蓄养你们，正为今日，今日之事，无可问也。”成济便拔剑刺魏帝，魏帝当即死于车下。
曹髦死后，司马昭又立十四岁的陈留王曹奂为帝。景元四年（263年），司马昭出兵灭了蜀国，灭蜀后又杀了伐蜀的两员大将邓艾、钟会。
司马氏专权的行为除了受到曹氏武装力量的反对和抵制外，也受到了一部分有影响的名士们的消极抵抗，他们玩世不恭，蔑弃礼法，放纵形遗。司马氏采取分化瓦解的办法，争取了像山涛、向秀、阮籍一些有影响的玄学家，杀害了态度强硬，拒不合作的嵇康。司马氏代魏的障碍全部扫清了。
咸熙元年（264年），司马昭被封为晋王，增封十郡，以其子司马炎为大将军。次年五月，加司马昭殊礼，进王妃为后，立世子司马炎为太子。八月，司马昭死。十二月，魏帝曹奂禅位于晋，司马炎即帝位。追尊宣王司马懿宣帝，景王司马师为景帝，文王司马昭为文帝尊王太后为皇太后，以石苞为大司马，郑冲为太傅，王祥为太保，何曾为太尉，贾充为车骑将军，王沈为骠骑将军。西晋建立不久，司马炎又派成隆击败鲜卑树机能，平定凉州。但是江东吴国尚存吴国。
孙权像吴国在孙权统治的晚年开始发生内争，在无休止的权力争夺中，国力大衰。孙权先立孙登为太子，孙登早死，又立孙和为太子，但却宠爱孙霸，于是朝内形成了两派，斗争异常激烈，孙权怕引起大乱，便废掉了太子孙和，并令孙霸自杀，又立孙亮为太子，诸葛恪和孙峻辅政。孙亮和孙峻合谋杀害了诸葛恪，由孙峻专制朝政。孙峻死后，弟孙綝掌权，孙綝废掉孙亮，立孙休为帝，孙休与将军张布等设谋杀死孙綝。孙休作了六年皇帝，景元五年（264年）病死，由乌程侯孙皓继位。孙皓是三国时期有名的暴君，他粗暴骄盈，多忌讳，好酒色，让大臣们非常失望，丞相濮阳兴和张布后悔立他为帝，孙皓知道后就把他俩杀害了。接着又杀死孙休的妻子和孙休的两个儿子，对大臣们更是稍有不如意非杀即罢，还常使用剥面皮和凿眼睛的酷刑。又大兴土木建昭明宫，造苑囿楼观。在他的统治下，“国无一年之储，家无经月之蓄”，国内人民多次举行暴动，同时宗室将领夏口督孙秀、京下督孙楷又先后投降西晋，众叛亲离，国运日衰。当时孙吴都督荆州地区军事的是镇东大将军陆抗，陆抗很有军事才能，负责长江防务，与西晋将领羊枯领兵对峙。孙皓多次派兵进攻西晋，陆抗上书劝孙皓：“要力农富国，审官任能，严明刑赏，安抚百姓，而穷兵黩武，动费万计，士卒劳瘁，这样敌人不会为之衰败，而我们却得了大病，按目前的情况看，大小势异，想入主中原，不是安国之良策。”但孙皓不听。西晋泰始十年（274年），陆抗病卒，临终前上书劝孙皓加强西陵、建平方面的防务，防止敌人泛舟顺流而下。
咸宁二年（276年），西晋征南大将军羊枯上书请求伐吴，羊祜说：“现在东吴江淮险阻不如剑阁，孙皓残暴过于刘禅，吴人困苦甚于巴蜀，而晋朝力量则远盛于往日，是平定东吴、统一海内的好时机，如果我们各路大军齐下，东吴防不胜防，国内必然震动，那时，虽有智能之士，也难以对付我们。而且孙皓众心离叛，将领平时都畏其凶暴，早想离去，我们大军一到，必然响应，用不了多久，我们就能取得胜利。”羊祜的分析，晋武帝司马炎很赞同，但朝议不统一，司马炎没有马上出兵进攻孙吴。
咸宁四年（278年）十一月，羊祜病逝，西晋以杜预为镇南大将军，都督荆州诸军事。次年，益州刺史王浚、镇南将军仁预又先后上书请求伐吴。十一月，晋武帝司马炎开始大举伐吴，发兵20万，大军发为六路，在东西千余里的边境线上，同时出击，以镇东将军琅玡王司马伷出涂中（今安徽全椒县滁河流域），安东将军王渐趋横江（今安徽和县东南横江浦），建威将军王戎趋武昌，平南将军胡奋向夏口，镇南大将军杜预自襄阳向江陵，龙骧将军王浚、广武将军唐彬率巴蜀军队顺流而下。太尉贾充为大都督，节制全军。
王浚所统水军顺江东下，先破丹阳，东吴太守吾彦在长江要害之处，设置铁锁链，横断长江航路；又制作一丈多长的铁锥，暗置江中，阻止船舰通过，王浚率军七万，乘船东下，用预先作好的大筏，缚草为人，被甲持仗，立于筏上，命会水者推筏前进，排除铁锥。又制大火炬，浇以麻油，烧断横江锁链，破除障碍，然后顺流而下，攻克武昌，直逼建业。其时杜预所部也取得了江陵，沅、湘以南到交广，州郡望风而归附。
王浑所统陆军在历阳（安徽和县）大败吴军，接着直奔南方。孙皓派丞相张悌督丹阳太守沈莹、护军孙震、副军师诸葛靓，率军三万渡江阻击。吴军开至牛渚（今安徽当涂西北长江边上）时，沈莹劝张悌不要渡江北上与晋军决战，要积蓄力量，等东下的晋水军到来时再战。张悌不听，渡江包围王浑部将张乔，吴将沈莹率精兵五千，向张乔部发起进攻，晋兵不动，连续三次都攻不破敌营，率兵引退，部众顿时溃散，西晋蒋班与张乔趁势前后夹击，吴军大败，张悌及部将孙震、沈莹战死。孙皓又急忙派陶浚准备领兵迎战，当天晚上，召集起来的兵士就全逃散了。
其时，东路司马伷的军队也逼近建业，孙皓势穷力竭，只得分派使者向王浑、王浚、司马伷处投降。
王浚自武昌扬帆东下，兵甲满江，旌旗遮天，直逼建业。吴水陆军纷纷溃逃，吴主孙皓诣军投降王浚。
孙皓投降后，被迁往洛阳，司马炎封他为归命侯。孙皓登殿叩首，拜见晋武帝，司马炎对孙皓说：“朕设此座以待卿久矣。”孙皓回答说：“臣于南方亦设此座以待陛下。”司马炎问东吴旧臣有关孙皓灭亡的原因，薛莹回答说：“孙皓君临东吴，亲近小人，刑罚妄加，大臣诸将人不自保，此其所灭亡也。”
西晋灭吴后，结束了三国长期分裂的局面，使国家重新归于统一。
