在教皇与诸侯勾结的同时，亨利四世及其拥护者也举行了一个对抗会议，亨利四世希望通过这次会议，重新赢得反叛诸侯对自己的支持。然而，反叛诸侯对国王及其亲信班贝格大主教的号召置之不理。
因为在这些诸侯看来，没有强大军事实力作后盾的亨利四世，如果失去了上帝的神圣光环之后，就不足为惧。
国王与教皇斗争的高潮并没出现在德意志，而是出现在了北意大利城邦米兰。在那里，大主教和控制城市的低级贵族都是忠于国王的。于是，那些支持教皇的反对派便密谋了一场武装叛乱，教皇也趁机利用民众的宗教狂热进行煽动，企图一举将米兰置于自己的完全控制之下。但是，这些反对派遭到了血腥的镇压，教皇的政变企图未能取得成果。
德意志诸侯也企图利用手中的军事力量推翻国王。亨利四世得知，反对自己的诸侯们想发动一次军事打击，并且在莱茵河右岸已集中了运送部队过河的船只。亨利四世原本在莱茵河的对岸集结了一支军队，但这支军队不久就出现了分裂。因此，就在德国内战一触即发之时，亨利四世不得不接受反叛诸侯的条件。
1077年2月，奥格斯堡帝国会议召开，亨利四世受到了诸侯法庭的审判。法庭宣布，如果亨利四世在教皇宣布开除他教籍一年之后还未得到赦免的话，那他就要失去王位。
审判过后，亨利四世清楚地看到，教皇既然可以充当诸侯和自己之间纷争的调停人，那也可以帮助自己打击诸侯，整顿朝纲。为了能重新获得教籍，不让诸侯罢免自己王位的图谋得逞，国王决定带着王后、两岁的儿子和少数随行人员偷偷地越过阿尔卑斯山脉，来到伦巴第。忠于皇帝的伦巴第诸侯还以为皇帝前来是号召他们起事的，因此都在阿尔卑斯山脚下做好了战争的准备。不过，皇帝此次前来的目的并不在于战，而是在于和。
1077年1月25日至28日，发生了闻名世界的卡诺莎事件。1月25日傍晚，格里高利七世在奥格斯堡用餐时突然得知亨利四世正在接近他的驻地，于是便匆匆逃往他的一位朋友托斯卡纳女伯爵玛蒂尔达的领地卡诺莎城堡。然而，亨利四世是铁了心要请求教皇宽恕的。他在城堡外的冰天雪地中赤脚站立了3天，恳求教皇原谅他的一切罪过，取消对自己的绝罚令。直到最后一天，亨利四世准备返回的时候，教皇才同意作出让步，条件是亨利四世必须在规定的期限内重新获得诸侯的宣誓效忠，并保证教皇前往德意志时的人身安全。
后世对亨利四世的卡诺莎之行充满了争论。俾斯麦曾在帝国议会上高呼“我们不去卡诺莎”，以显示新的德意志帝国绝不会向敌人妥协。但也有人认为亨利四世的卡诺莎之行是很精明的一招棋。亨利四世在全世界和他的诸侯面前表明他已作了忏悔之后，格里高利七世就处于两难之中。教皇明知亨利四世不可能信守承诺，却不得不取消对他的“绝罚”。
比较公允的说法是，卡诺莎事件意味着罗马教廷权力达到顶峰，但同时也是亨利四世重掌大权的一个成功的策略。这里要特别说明的一点是，就教权和皇权的此消彼长来说，卡诺莎事件只是一个阶段性的标志，并不是一个转折点。一方面，在此后的数百年间，皇帝依然拥有足够的力量威胁和控制教皇本身。亨利四世的继任者们有不少都曾兵临罗马，废立教皇。只是帝国皇权因帝国诸侯的强大而彻底衰落后，皇帝才结束了进军罗马之举。另一方面，皇帝和教皇之间关于主教叙任权的斗争并未在卡诺莎事件之后终结。亨利四世当然不会乖乖交出这一权力。亨利四世的儿子即位后，教皇以让出大量教廷地产为代价，才获得了授予主教权杖和指环的权力。但授予主教权标，即世俗权力的权力仍掌握在皇帝的手中。而萨利安王朝之后的许多帝国皇帝也都为重新夺回主教叙任权而与教皇发生激烈的冲突。
取消对亨利四世的效忠之后，德意志反对派诸侯只用了两个月就制造了对立国王——士瓦本公爵鲁道夫。但是反对皇帝的诸侯还不到总数的一半，而且也只有很少几位主教。亨利四世卡诺莎之行后重新得到人民的支持，诸侯也没有了反对他的借口，他便迅速地讨伐叛乱者。忠于亨利四世的人民反对新国王登基，他们趁鲁道夫去参加神职礼时爆发了起义，武装的居民起来赶跑了士瓦本骑士，鲁道夫也不得不逃到萨克森。
亨利四世亲自组建了由中等自由民和各城市的市民所组成的新军，依靠这支比较统一、便于指挥的武装力量，亨利四世终于在穆尔豪森附近打败鲁道夫，并将其抓获。鲁道夫遭到斩手之刑，因为亨利要让他记住，如果一个诸侯曾经用他的手向其主子宣誓效忠过，那当这个诸侯要撤销自己的誓言时，其代价就是这只宣誓用的手。
碍于在卡诺莎与亨利四世的协定，教皇在德意志双王混战中一开始选择观望态度，但到后来，教皇决定站在鲁道夫一边反对亨利四世，因为他根本就不相信亨利四世会真心让出主教叙任权。
1080年3月，罗马的斋日宗教会议上，格里高利七世宣布第二次把亨利四世革出教门。同年10月，鲁道夫战死，亨利四世成为了唯一的国王，他仍然坚持要授圣职权，并再度宣布废黜教皇，任命对立教皇克勉三世。
与卡诺莎时相比，亨利四世的处境此时已显著改善。南德的诸侯都忠于国王，部分士瓦本、法兰克和克思膝的诸侯也支持他，甚至连波希米亚和勃艮第也站在他这边。只有三四名主教和诸侯还站在格里高利七世一边。在主教城美因茨，亲国王的势力也取得了胜利。各城市的当权者都在有主教支持或无主教支持的情况下帮助亨利四世夺回权力。
教皇没有自己的军事力量，但他可以在宗教上反击国王。格里高利七世禁止国王方面的主教和教士为德意志民众做礼拜，宣布由忠于教皇的一派主教所作的圣礼才是有效的。然而，这些谕令在“枪杆子出政权”的箴言面前却显得苍白无力。
1084年，亨利四世率大军进军罗马。他几乎没费什么力气便成功地占领了梵蒂冈，并在那里接受了克勉三世的加冕，成为了神圣罗马帝国皇帝。格里高利七世弃城南逃，他向盘踞在西西里的诺曼人首领罗贝尔·吉斯卡尔求援，吉斯卡尔欣然从命。虽然诺曼人赶走了亨利四世，但他们同时也洗劫了罗马。格里高利七世害怕罗马人怪罪自己，只得和诺曼人一起逃离罗马。
1085年，格里高利七世在流亡中孤独地死去。
格里高利七世死后，亨利四世很快面对着新的叛乱。继任教皇与德国诸侯联合，亨利四世为此再度侵入意大利，但未能取胜。在与韦尔夫家族（士瓦本公爵鲁道夫的家族）和解后，他才得以从意大利返回德国。
4.帝国的危机
“卡诺莎事件”沉重地打击了神圣罗马帝国的皇权。在中世纪早期，人们把国王看做是世俗和教会领导的统一体，而古老的日耳曼习俗也将国王看成是血统高贵的、可在上帝和普通人之间充当中介的中间人。绝罚令使亨利四世失去了神圣的光环。与此同时，在绝罚令开出之后，德意志第一次出现了两个对立国王，他们都在争取教皇承认自己的合法性。国王的尊严因此被大打折扣。卡诺莎事件后，神圣罗马帝国的教会贵族则以他们直属教皇为由，逼迫皇帝承认他们权力的扩大。此后，消除世俗封建主割据的努力变得不再可能实现。
亨利四世重掌大权之后，对帝国统治危机作出了明智的应对：承认已有的诸侯庄园的独立性，极力扩大王室领地的范围，加强王室领地与周围领地的联系，通过重用家臣和招用自由农民的方法强化国王对王室领地的控制，以巩固王权。亨利四世主要在帝国东部新开垦的土地上实行这一政策，以此和那些也在这一地区扩大私人领地的贵族竞争。许多贵族发现，那些原本地位不高、没有自由人身份的家臣和农民正在成为亨利四世新的统治基础。而且家臣还是帝国的行政官员，甚至可以向贵族发号命令。因此，帝国东部的贵族咒骂亨利四世为“暴君”，时刻准备摆脱帝国对他们扩张势力的约束。
1093年，亨利四世的长子康拉德在对立教皇和贵族的怂恿下发动叛乱。康拉德是亨利四世与第一任妻子伯莎（1086年12月27日去世）所生。亨利四世果断地镇压了康拉德的叛乱，并废黜了他。除康拉德外，亨利四世还生有4个孩子：阿格尼丝公主，亨利五世，另外两个夭折。伯莎去世后，亨利于1089年同基辅大公的女儿结婚，但二人始终无子。
1098年，亨利四世的幼子亨利被选为德意志国王，但在诸侯和教皇的怂恿下，小亨利也蠢蠢欲动，企图取代亨利四世的地位。
亨利四世的命运非常悲惨。他6岁丧父，12岁与生母分离，被迫跟着一个危险的敌人过上了刀光剑影的生活。他的一生，不仅要和他的前任一样，与实力强大、桀骜不驯的德意志诸侯作战，还要面临着教皇的责难，承受卡诺莎之辱。然而，令亨利四世最为悲痛的是，他的两个儿子居然都不和他一心，先后和敌人结盟来反对自己。“教皇和罗马教会方面已不再构成你的理由了，那么你是出于什么理智的原因继续对我紧追不舍？”在忠于自己的军队重新集结在亨利四世身边时，他向小儿子发出了一个父亲的质问。他的公爵们敦促他起兵讨伐儿子，重新获得尊严。对此亨利四世答道：失去的帝国是他用武力未能保持住的帝国，他也无法再用武力夺回。在他看来，夺回这个帝国要杀死那么多的人是不值得的。因此，亨利四世尽量避免与向科隆挺进的儿子的部队进行一场公开大战。他采用不断地骚扰战术，使包围科隆的敌军恐慌不安，军力逐渐削弱。然而常年的征战劳顿耗尽了这位皇帝的精气。1106年亨利四世去世后，新任教皇帕斯卡尔二世下令不得为亨利四世举行葬礼，但百姓们无视教皇的命令，为亨利四世举行了隆重的安葬仪式。
亨利四世的幼子在一群诸侯和教皇的支持下夺取了德意志国王之位，称为亨利五世。1114年，亨利五世与英格兰国王亨利一世的女儿结婚，但他们没有后代，萨利安王朝遂此终结。
