大约在周宣王的时候，晋国是晋穆侯在位。晋穆侯生有两个儿子，长子名仇，少子名成师，到了春秋初年，太子仇即位为君，是为晋昭侯。晋昭侯封其弟成师于曲沃（今山西闻喜东），是为曲沃桓叔，而曲沃大于晋国的都城翼（今山西翼城东南），所以，晋国的大夫师服对此事评论说：“建立国家的原则，是根本大而枝叶小，这样国家才能巩固，现在晋国是王畿以内的诸侯，而又建立侯国，晋国的根本已经衰落，难道还能长久吗？”事情果真像师服所说的那样，在以后的相当长的时间里，曲沃与晋之间一直争斗不息。到了曲沃武公的时候，终于灭了翼，公元前678年，周釐王册封曲沃武公为晋侯，同时允许晋国拥有一个军的兵力，是为晋武公。
公元前677年，晋武公死，晋献公即位。晋献公即位初年，由于曲沃桓叔、曲沃庄伯两个家支的公族势力太强，用士蔿建议，剪除了晋国的群公子，从此，晋国消灭了对君位构成巨大威胁的公族势力，晋国的政治秩序才得以巩固。
晋国有两个邻国，一个是虢国，一个是虞国（今山西平陆东北），公元前668年，虢国出动军队侵犯晋国，从此晋虢之间的关系变恶。第二年，晋献公准备攻打虢国，而大夫士蔿说：“现在不能进攻虢国，虢公骄傲，去年虢国在侵伐我国时曾经取胜，他一定会丢弃他的人民。在没有了人民的支持以后，我们再去讨伐他，那时，即使虢公想要抵御我们，但是又有谁能跟随他打仗呢？”听从了士蔿的这一建议，晋献公暂时放下了攻打虢国的打算。
公元前662年7月，有一个神灵降到了虢国境内一个名叫莘（今河南三门峡市峡石镇西）的地方，这个“神灵”在那里居住六个月，虢公派太祝应、宗人区、太史嚣去祭祀它，“神灵”为此答应赐给虢国土地，虢公因此而十分高兴。这件事发生以后，太史嚣评论说：虢国恐怕要灭亡了吧，我听说，国家将要兴盛，就聆听人民的声音，国家将要灭亡，就听信神的话。神灵的本性是聪明正直而一心一意，依据人的善恶去行事，现在虢国做了很多的坏事，怎么能够从神灵那里得到土地呢？
又过了些年，虢公的统治越来越不得人心，灭虢的时机终于成熟了。公元前658年，晋国大夫荀息向晋献公建议，把屈地（今山西吉县东北）出产的四匹马和垂棘（今山西潞城北）出产的璧送给虞国，向虞国借路攻打虢国。于是，晋献公派大夫荀息出使虞国，对虞国的国君说：“现在虢国无道，凭借它收拢的流亡人众，侵扰我国的南部边境，我们谨向贵国借路，去惩罚虢国国君的罪过。”虞公见物心喜，欣然允诺，这一年夏，晋国取道虞国，攻取了虢国的下阳（今山西平陆）。
公元前655年秋，晋国再次向虞国借路讨伐虢国。虢国的大夫宫之奇说：“虢国灭亡了，虞国就一定会跟着它灭亡。我们不能为晋国实现它的野心开启门户，也不能和敌寇开玩笑，把路借给晋国一次已经很过分了，怎么还能借给他第二次呢？谚语所说的‘辅车相依，唇亡齿寒’，说的就是虞和虢的关系。”虞公听了很不以为然，说：“晋国是我的宗族，难道还会害我吗？”宫之奇反驳道：“过去太伯、虞仲是太王的儿子，太伯不听从父命，所以没有立为后嗣。虢仲、虢叔是王季的儿子，做文王的卿士，为王室立下卓越的功勋，已经记载在王室的典册里，同样是晋国的同姓宗族，晋国想要灭掉虢国，又怎么能够爱护虞国呢？况且对于晋国来说，虞国难道还比晋国的桓叔、庄伯的家族更亲近吗？桓叔、庄伯的家族有什么罪过，但是却惨遭杀戮。亲近的公族因为威胁公室，就被晋侯杀掉了，更何况我们和他们是两个国家呢？”但是，虞公仍然不肯听从宫之奇的谏议，无奈，宫之奇带着自己的家族逃出了虞国，在临动身的时候说：“虞国将不会再举行年终的腊祭了，就是这一次了，晋国用不着再出兵攻打虞国了。”
这一年的八月，晋国的军队包围了虢国的都城上阳（今河南陕县南），到了十二月，终于攻灭了虢国，虢公丑逃到成周。晋国的军队凯旋而归，在回来的路上，驻在虞国，乘机袭击虞国，虞国随即灭亡。
