刘行本，沛县人。父亲刘瑰，在梁国做官，历任高贵显赫之职。刘行本一出家门就任武陵国常待。遇到萧修以梁州投奔北朝，刘行本遂与叔父刘瑶一块投归北周，居住在京兆的新丰县。常以背诵读书为事，聚精会神乐而忘记了疲劳，虽然穿衣吃饭都有缺乏的时候，但干扰不了他读书，仍是一如既往。性情刚烈，有股不可改变的意志。周大冢宰宇文护推荐他任中外府记室。周武帝亲理朝政后，刘行本转为御正中士，兼领起居注，连续升迁为掌朝下大夫。周朝原来的典章规定，天子不坐正殿而到殿前时，掌朝大夫主管笔砚。拿到御坐前，则由承御大夫取过来送进去。到刘行本为掌朝，将要送笔给皇帝，承御又要取过去。行本大声对承御说：“笔不能给你。”皇帝吃惊看着他而发问，行本回答说：“臣听说设立官位分明职掌，各有主管的事。臣既不能佩戴承御的刀，承御怎么能拿臣的笔。”皇帝说：“对。”因此下令两部门各执行其职责。到周宣帝继承皇位后，做了很多荒唐谬误的事，刘行本直言极谏惹恼了周宣帝，被外放为河内太守。
杨坚出任北周丞相，尉迟迥举兵造反，进攻怀州。行本率领官吏百姓抵抗住了他的进攻，因功拜仪同，赐爵文安县子。到杨坚登上皇帝宝座，征拜刘行本为谏议大夫，代理治书侍御史。不久，迁黄门侍郎。皇帝曾向一郎官发怒，在殿前笞打他。刘行本劝谏说：“这个人向来高洁，其过失又很小，望陛下稍加宽容。”皇帝不理睬。于是行本就站到皇帝面前说：“陛下不认为臣不正派，把臣发署左右。臣说的如果对，陛下怎能够不听？臣说的如果错了，应当交给法官，以申明国法，岂能轻视臣而不理睬！臣所说的并非是私事。”随着把朝笏放在地上而退下去了，皇帝马上郑重其事地向他道歉，也原谅了所笞打的郎官。
当时正是天下太平盛世，四周的少数民族纷纷内附，刘行本因党项羌离疆界很近，但最后归附，上表弹劾其使者说：“臣听说南方少数民族遵从校尉的统领，西域各族仰承都护的权威力。近来见到西羌这样的小偷小盗，不父不子，无君无臣，种类不同居于异域他乡，于此为下。不明白维系联络的恩惠，岂能知道保养的恩德，贪暴凶残为心，单独违背朝廷。使者最近来到，请付推科。”皇帝特别欣赏他的心意了。雍州别驾元肇告诉皇帝说：“有一个州吏，接受别人馈赠三百文钱，按法律应当杖责一百。因我刚到那里的时候，与其约定。这个州吏故意违背，请加徒刑一年。”刘行本批驳元肇说：“律令的执行，都发布了诏书，和百姓作了规约。现在肇竟敢只重视他的命令，轻视国家法规。要申明自己的言语一定实行，而忘记朝廷的大信，破坏国法而取个人权威，这不是人臣的准则。”皇帝赞美了他，赐给绢百匹。
在职几年后，拜太子左庶子，领治书侍御史依然如故。皇太子对刘行本虚心恭畏。当时唐令则也担任左庶子，太子特别亲近他，经常让他用瑟伴奏、歌咏诵读教练太子宫中的女伎艺人和妻妾。刘行本责备他说：“庶子应当辅导太子以正道，为什么又昵爱于内室当中呢！”唐令则听了十分惭愧但又不能改正。当时，沛国刘臻、平原明克让、魏郡陆爽都因文学被皇太子所亲近。刘行本生气他们不能调理保护，常说三人：“你们只知道读书罢了。”当时左卫率长史夏侯福被太子所昵爱，曾经在阁中和太子游戏打闹，夏侯福大笑，笑声在外边都能听到。刘行本正在阁下听到，待夏侯福出来，刘行本责备他说：“殿下宽容，给你好脸色。你是什么小人，竟敢轻慢！”因此交给执法的人处治。过了几天，皇太子为夏侯福求情，才释放出来。太子曾得到一匹好马，让夏侯福骑乘而观看。太子十分高兴，因此要刘行本再骑一次。刘行本不骑，严肃地劝谏说：“皇帝把臣放在庶子这个位子上，是要让我辅导殿下以正道，并不是给殿下作亲近狎玩的人。”皇太子听了惭愧而止。后来又以本官兼任大兴县令，权贵惧怕刘行本的正直，没有敢到其门的人。因此请托办事的路断绝了，法令清简，官吏百姓都怀念他。不久，死于官任上，皇帝十分悼念哀伤他。到太子被废，皇帝说：“哎！如果刘行本在，杨勇当然不会到这地步。”
