刘询是从民间回来当了皇帝的。他深有体会，要治好国家必须要有好官。登基后他就开始调用清官、贤官、能官、耿直官。
他首先想到的是那个敢于冒死直谏刘贺的龚遂。刘贺被废以后龚遂跟着他又回到了昌邑国，依然不断地教诲刘贺。龚遂的品德可嘉，刘询就任命他为渤海郡守。渤海郡盗贼很多，几任郡守都没有治理住。刘询召见龚遂问话：“你用什么办法治理地方，消灭那里的贼盗？”龚遂反问：“不知陛下是让我镇压他们呢，还是安抚他们？”刘询说：“我任用贤能良才，当然是要他用和平的手段使秩序恢复。”龚遂说：“我按陛下的方针去办。”
龚遂上任以后，马上解散了各级治安官吏，同时宣布，凡携带锄头镰刀闹事的都是善良的农民，只有携带武器的才算贼盗。闹事的老百姓听到郡长的这个命令纷纷解散，贼盗很快消失。龚遂又下令打开仓库救济贫民，深受百姓拥护，渤海郡治安开始好转，刑狱案件稀少。
颍川郡（今河南省禹县）太守赵广汉整治地方尚佳，刘询就提拔他到长安当京兆尹（首都市长）。
在赵广汉当颍川郡太守之前颍川非常乱。官吏结党营私，帮派林立，横行乡里，几任太守都被赶走。赵广汉上任以后在郡政府门外设置了一个竹筒，接受人民的投诉，鼓励揭发不法分子。早就忍无可忍的老百姓纷纷写匿名信告发，赵广汉很快掌握了官匪勾结的组织名单。他又利用离间计，对甲说乙告了甲，对乙说甲告了乙，让他们相互揭发狗咬狗，帮派很快瓦解，盗匪跟着绝迹，社会日渐平静。当了京兆尹后，凡有功有奖的都归部下，有错的自己承担，很得部下敬佩，渐渐形成一支围绕着他转的亲信“队伍”。这支部队乐于听命，他指到哪里，他们就打到哪里，而且勇往直前，宁死不逃避。由于有了这支散布在京城各个角落的保安部队，什么邪恶都逃不过他的眼睛。有几个歹徒在长安远郊集会，商议抢劫一家饭庄，人刚到齐，保安就破门而入，一网打尽。在他治理的首都长安，出现了前所未有的政清人和、秩序良好的局面。老百姓说，自汉朝建立以来，从没有一个市长能胜得过赵广汉。
当刘询还在民间当平民时就听说河南郡守黄霸执法公平，宽以待人，有口皆碑。昭帝时代，鉴于先帝刘彻严刑峻法造成的恶果，霍光恢复了文景时代的温和政策。后来因为上官桀集团闹腾的教训，霍光的手就硬了起来，不知不觉又执行起刘彻的残酷法律。上有所好，下就有效。一些官吏为了迎合上级的意图，在法律上宁可严厉点也不给半点宽松，又出现了一连串的冤假错案。黄霸却不随波逐流，他实事求是，在河南郡纠正所有的冤假错案，很得民心。那时刘询就夸下海口说：“有朝一日我当了皇帝，第一个擢升的就是黄霸。”黄霸果然被调入京当了廷尉正（司法部审判长），负责裁决疑案。
刘询的整顿吏治，任用好官，使霍光辅政时代推行的无为而治逐渐转化为有为而治。
