这时，曹操部将蔡阳杀来，要为外甥秦琪报仇。张飞要关羽在三通鼓后斩了蔡阳，才肯相认。关羽在一通鼓未尽前便斩了蔡阳。 张飞这才明白了关羽的一路辛苦，便放声大哭，跪在关羽面前谢罪。谁知刘备这时又跑到河北袁绍那儿去了。关羽与孙乾又赶到河北关家庄才见到了刘备，兄弟相见，抱头痛哭。关羽收关平为义子。
刘备怕袁绍追赶，与关羽直奔张飞驻守的古城。路上经过卧牛山时，遇到了赵云，便一同前往古城。 刘备与两个弟弟重新团聚，又新得赵云、关平、周仓三人，于是大家杀牛宰羊庆贺团圆。但刘备考虑古城太小，便率领人马驻扎汝南，招兵买马，另谋大事。
刘备投靠刘表，屯兵于新野。建安十三年（208年），曹操南下，刘备南逃，另遣关羽乘数百艘船驶向江陵会合，但刘备于途中被曹操军追至，幸而关羽驶至汉津，一同乘船至夏口。刘备联合孙权击败曹操后，曹操留曹仁等防守荆州，于是刘备又与孙权大将周瑜夹攻曹仁，命关羽绝北道断曹仁后路。待刘备取得荆南四郡（长沙、零陵、武陵、桂阳），关羽被推为元勋，受封襄阳太守、荡寇将军，这其间襄阳实为曹操势力范围，由乐进驻守，所以关羽驻于江北。刘备平定蜀地后，以关羽董督荆州事，授权掌管荆州地区刘备控制的部分，包括荆州南部四郡和从东吴借来的南郡治所江陵和附近的公安，关羽事实上镇守荆州五郡（南郡、长沙、零陵、武陵、桂阳）。
建安二十年（215年），孙权知道刘备已夺得益州，希望取回荆州。刘备却说：“当得到凉州时，便会把荆州交还。”孙权对此十分怨恨，便派鲁肃索要荆州。孙刘两方的将领在阵前“单刀会”，据理相争但最终不欢而散。孙权命吕蒙准备进攻荆州南部，鲁肃将万余人马于益阳牵制关羽，刘备从益州带兵回援。时关羽号称有三万人马，自选五千精锐准备从上游渡河，吴将甘宁率领一千人前往驻守，关羽得知后就没有过河，在河对岸扎营，这个地方后来称为“关羽濑”。此时，曹操进取汉中的张鲁，刘备便迅速和孙权修和，协议平分荆州，但双方关系已趋恶化。孙权方仇视刘备、关羽君臣。
建安二十四年（219年），刘备称汉中王，封关羽为前将军，假节钺。同年关羽进攻荆州北部樊城，曹操派大将于禁率七军（约三万多）援救，时大雨导致汉水暴涨，于禁所率领的七军都被大水困住，将士纷纷往高处避水，而关羽看准时机，乘势坐大船进行攻击，史称“水淹七军”。于禁因为穷迫，于是向关羽投降，庞德则被关羽所获，因不向关羽投降而被关羽处斩，关羽还进一步围困曹军大将曹仁于樊城，并另派遣军队包围襄阳。曹操指派的荆州刺史胡修、南乡郡太守傅方都投降了关羽。当时曹操治郡下许多叛军早已受关羽遥控，更有许多叛乱都想引关羽为援，曹操几欲迁都避其锐，史书记载：关羽威震华夏。
建安二十四年（219年）十月，曹操以为汉献帝在许，与关羽军相近，欲迁都避其锋芒，司马懿、蒋济等劝阻，认为孙权必然不愿看到关羽得志，可以用答应将江南封给孙权为条件让他从背后出兵攻击关羽。同时曹操动员徐晃、张辽等将，及衮州刺史裴潜、豫州刺史吕贡等率军救援樊城，更准备亲自征讨关羽。而孙权命吕蒙为主帅偷袭荆州，并亲自率军为后援。荆州重镇江陵守将麋芳（刘备小舅子）、公安守将士仁因与关羽有嫌隙而不战而降，吕蒙不费吹灰之力就遂次第攻陷荆州各郡。
救援樊城的徐晃因兵力不足，认为很难与关羽抗衡，不过之后曹操先后派遣徐商、吕建等将领以及殷署、朱盖等十二营兵马增援徐晃，最终徐晃出战击败了围困樊城的关羽军队。此时关羽知悉后方生变，乃南撤，但水军仍然控制汉水。关羽军队的家属多在江陵（南郡治所），得知江陵失陷于孙权，士卒渐渐溃散，退至麦城。十二月，关羽率数十骑出逃，一路突围至距益州不过一二十里的临沮（今湖北省襄樊市南漳县），遇潘璋部将马忠的埋伏，被擒，和儿子关平于临沮被害。
孙权将关羽首级送给曹操，曹操以诸侯之礼将其安葬于洛阳，通常认为即关林，不过现代有观点认为关庄村关羽墓才是埋葬关羽头颅之处，关林只是万历年间建的祀祠场所。同时孙权则将关羽身躯以诸侯礼安葬于当阳，即关陵，也称当阳大王冢。蜀汉政权则在成都为关羽建衣冠冢，即是成都关羽墓，以招魂祭祀。而关羽故乡山西运城解州后来则建立了关帝庙，是为解州关帝庙，被认为是关羽魂魄归返之处。因此民间也称关羽“头枕洛阳，身卧当阳，魂归故里（或称‘魂归山西’）”。
孙权背盟偷袭和关羽被杀也象征孙刘联盟的彻底破裂。章武元年（221年），蜀汉先主刘备以为关羽报仇之名东征东吴，曾专程到大王冢祭拜关羽，并在玉泉山建关羽祠。之后蜀汉军队在夷陵之战中大败于陆逊率领的孙权军，蜀汉从此彻底失去对于荆州的控制权。
景耀三年（260年）九月，蜀汉后主刘禅在追谥几位重要大臣时，追谥关羽为“壮缪侯”。
手持青龙偃月刀的关羽神像、关羽的祠庙遍布各地，为中国神明中最多祠庙的一位。古代祭祀的战神本是“兵主”蚩尤。就官方的祭祀而言，唐初开始便有武庙，但主祀的是周朝名将姜子牙，而关羽则为从祀。至迟宋朝末年，民间供奉关羽的庙宇已经“郡国州县、乡邑间井皆有”（郝经《陵川集》）。元代朝廷虽崇信喇嘛教，但未箝制人民信仰，因此民间对关羽的崇信有增无减，元朝皇帝且曾遣使致祭。明清以降，供奉关羽的庙宇不仅遍布中国内地，且延伸至蒙古、西藏、朝鲜半岛乃至海外。今日仅在老北京城里，就有一百多座专供关公或兼供关公的庙宇。
因为关羽不仅受到儒家的崇祀，同时又受到道家、佛家的膜拜，所以关羽是横贯儒、道、佛三大中国教派的神祇。但其中以儒家的关羽体现更多关羽的本色。
随着关羽地位变得显赫，关羽更被尊称为“武王”、“武圣人”，与孔子并肩而立。也正因为关羽如此显赫，除了军人、武师奉他为行业神崇拜外，就连描金业、烟业、香烛业、教育业、命相家等等不相干的行业也推崇关羽，所以也将他变成武财神，又是五文昌之一。
关公是一种文化；也有人说，关公是一种精神。不然，在中国以至海外为何有这样多的关公庙。
在国内所有的关庙建筑中，至今保存最为完好的有五六处：山西关羽故里常平关帝庙，河南洛阳关林，湖北当阳关陵，荆州关帝庙，河南许昌霸陵桥关帝庙等等。而规模最大、气势最为宏伟的，就是位于关羽的故里——山西省运城市解州城西的关帝庙了，它至今仍然完整地保留着一座全国最大关帝庙。庙内楼台殿阁共达三百余间，为游览胜地之一。堪称天下第一关庙。
不仅如此，除了在华夏大地，在日本、东南亚以及海外华侨中，对关羽的膜拜之风也历历不衰。
在拥有二千余万人口的台湾，关公信徒多达800万众，几乎各家各户都为关公设香案，立牌位，挂圣像。台湾的关公画像年销售量，远远超过了他们最崇奉的神祇妈祖。
美国的“龙岗总会”是一个以拜关公为祖的民间组织，各地分会有140多个，遍布华人居住的世界各地。
东南亚各国竞相立庙拜求关公，最盛者当数泰国。
在日本，早在清代就有关帝庙；前些年还新建了一座关庙，据称是海外建筑规模最大的关庙。
美国圣地亚哥加州大学人类学系教授、芝加哥大学人类学博士Davidk jordan（汉名焦大卫）先生曾说过一段很有意思的话；“我尊敬你们的这一位大神，他应该得到所有人的尊敬。他的仁、义、智、勇直到现在仍有意义，仁就是爱心，义就是信誉，智就是文化，勇就是不怕困难。上帝的子民如果都像你们的关公一样，我们的世界就会变得更加美好。”这位美国学者的话是颇有见地的。
凝聚在关羽身上而为万世共仰的忠、义、信、智、仁、勇，蕴涵着中国传统文化的伦理、道德、理想，渗透着儒学的春秋精义，并为释教、道教教义所趋同的人生价值观念，实质上就是彪炳日月、大气浩然的华夏魂。
