武帝为人不拘小节，威名赫赫的大将军卫青入侍宫中，他曾蹲在厕所内接见；丞相公孙弘平时有事求见，武帝有时连帽子也不戴。可有一个人觐见时，武帝不戴好帽子是不敢接见他的。有一次，这人有事上奏，武帝正好没戴帽子，就连忙躲进帐幕内，叫侍从传话，就按他的意见办。这个能让武帝都有点敬畏的人物就是中大夫汲黯。
汲黯祖上世世代代都任卿大夫之职，到他已是第七代。靠父亲保举，景帝时汲黯当了太子洗马（太子太傅、少傅的属官）。
景帝死后，武帝即位，任命汲黯做了谒者之官。当时东越人各部发生械斗，武帝派汲黯前往视察。汲黯还未到达东越，半路就回来了，禀报武帝说东越人械斗是当地民俗，不值得劳动天子的使臣去过问。还有一次河内郡发生火灾，烧了1000余户人家的房子，武帝又派汲黯去视察。汲黯回来报告说，那里一家人不慎失火，蔓延开来，并不要紧。可一次汲黯路过河南郡（郡治在今河南偃师西），见当地遭受水旱灾害，灾民多达万余户，有的竟然父子相食。汲黯就拿出天子所给的符节，下令发放河南郡官仓的储粮赈济灾民。因为事先没来得及请示皇上，汲黯上书表示愿意接受惩罚。武帝觉得汲黯做得很对，就免他无罪，让他做荥阳令。汲黯觉得这是大材小用，就称病辞官还乡。武帝听说后，召汲黯回朝，拜他为中大夫。
汲黯为人耿直，总是直言不讳地批评劝谏，武帝有点烦他了，就将他外放，当了东海太守。汲黯崇仰无为而治，督查下属，只是把握大原则方向，并不苛求。汲黯身体不好，经常躺在卧室内休息不出来。仅一年多，东海郡便十分清明太平，百姓交口称赞。武帝得知后，召汲黯回京任主爵都尉，位列九卿。
汉室诤臣
当时，武帝大兴教化，准备独尊儒术，广招天下儒生。一次，武帝在朝堂上大谈要如何如何实行仁义之政。武帝好大喜功，大臣们也都习以为常，只有汲黯不随声附和，他说：“陛下心里欲望很多，只在表面上施行仁义，怎么能真正仿效唐尧虞舜治理国家呢？”此言一出，使得武帝非常难堪，脸色一沉，铁青着脸罢朝而去，把汲黯和群臣晾在一边。公卿大臣都为汲黯担心，以为他闯下了大祸。不料，武帝只是私下对人说：“这个汲黯太过分了，全国就没有比他再戆的人了！”皇帝也不过就是私下发发牢骚，并没有进一步追究。
群臣中也有人责怪汲黯不懂得体察圣意，汲黯则生气地回答说：“天子设置公卿大臣，难道是让他们一味阿谀奉迎，让自己失尽人心吗？我已经身居九卿之位，如果爱惜自己的性命，那怎么对得起国家！”
因为直言敢谏，汲黯的官总当不长。当初汲黯位列九卿时，公孙弘、张汤不过是一般小吏而已。后来他们两人都提升得很快，公孙弘贵为丞相，张汤也升到了御史大夫，与汲黯平起平坐，被重用的程度甚至超过了汲黯。汲黯脾气耿直，不可能没有一点儿怨言。一次汲黯朝见武帝，他走上前说道：“陛下用群臣如积薪耳，后来居上。”把武帝的人才储备及使用比喻成农夫堆柴，早就储备的人才就像叠在下面的木柴，而后来寻觅到的人才则像堆在上面的木柴，结果使用起来自然是“后来居上”了。汲黯的这种说法看似在发牢骚，其实他是在尽谏议之责，武帝用人的确有此特点。武帝听了半天没理他，等汲黯退下之后，武帝自嘲说：“一个人确实不可以没有学识，看汲黯这番话，他的愚直越来越严重了。”
威武不能屈
汲黯体弱多病，一次病得很厉害，大臣庄助替他向武帝请假。武帝就半开玩笑地问庄助说：“汲黯这个人怎么样？”庄助也中肯地回答说：“让汲黯当官执事，他没有过人之处，可让他辅佐少主，坚守已成的事业，以利诱之他不会来，以威驱之他不会去，再勇武的人也不能撼夺他的志节。”武帝点头称是，觉得庄助的话实在太精辟了，称赞汲黯有古代所谓的社稷之臣之风。
朝廷里有汲黯这样一位忠贞的大臣存在，的确也有威慑作用。淮南王刘安曾经想谋反，但害怕汲黯，只好作罢。刘安认为汲黯喜欢直言相谏，恪守节操，宁愿为正义捐躯，很难用不正当的事情诱惑他。要是朝廷里少了汲黯，事情就好办了。
