朱元璋得了天下，当了皇帝，就想把这份无与伦比的产业永远占有，让它传之子孙后代，没有止境。这是每个专制君主都有的想法，并不是他朱元璋特殊。秦始皇一统中国，创立皇帝这个名号，自称一世，不就是想把嬴家的天下传之万世万万世吗？
然而，历史的实际结果却并不是他们所希望的那样。
秦朝二世而亡。秦朝以后，依旧是这片河山。主人却不知换了多少个。元朝自蒙古统一中国，版图前所未有的大，但是不到一百年，就被元璋这个出身布衣的天子所取代。他总是口口声声宣称，他取得天下是天命的眷顾。不过他内心最清楚打天下的艰难与人谋的决定作用，天命只不过是愚弄人的东西。为什么这些王朝不能永存呢？他通观从秦到元的历史，得出一个结论：王朝灭亡的最重要原因就是权臣作怪。大臣掌握的权力太多太大，就变成了权臣。权臣作威作福，架空皇帝，结果法度不行，人心涣散，或者是造成群雄四起，天下大乱，或者权臣直接篡夺皇位。所以，他要想办法从制度上防止直至清除权臣的生成。这就涉及到丞相制度。
元璋建国时的政治制度都是模仿元朝的。中央设立三大机关：中书省、大都督府和御史台。其中都督府相当于元朝的枢密院，主管军队的征发调遣，将帅的任命，战略计划。元璋自己出身行伍，对行军作战，控制部下这一套最为擅长，因此都督府的事情大多都在自己的控制之下。御史台管监察，是专门找别人毛病的，手中没有太大的军事行政权力。中书省可就不一样了。中书省是全国的政治中枢。它的机构非常庞大，设有左、右丞相，平章政事，左、右丞，参加政事等官，下辖吏、户、礼、兵、刑、工六部。各部设尚书、侍郎等官。六部主管人事、财政、礼仪、教育、科举、国防、司法、水利、土木工程等事务。中书省还统辖各行中书省（俗称“省”）。所以，中书省的权利也就特别大。
中书省的最高长官就是左、右丞相。明朝以左为尊，所以，事实上左丞相的权力比右丞相大。丞相也就是中国古代的宰相。所谓“宰”就是主宰，主管的意思，“相”就是辅佐的意思。他的基本职责是辅佐皇帝主管全国政务，地位在一人之下，万人之上。皇帝发往全国各地的政令，必经由丞相转发执行，各地有事情报告朝廷，必须由丞相作出初步处理后转奏（报告）皇帝。除了都督府、御史台等少数几个部门外，其他部门向皇帝报告事情都必须经过丞相，在法制上，这叫做“不许隔越中书省奏事”。所以，丞相运用这个制度就可以把那些对自己有害的报告扣压下来，这就叫做“蒙蔽”。而且皇帝并不是样样都精通，许多政务都是专业性很强的，因而，丞相对政务提出的意见，往往具有决定性的作用，在皇帝不太精明的时候，丞相经常将皇帝权力架空，极端的情况就是篡夺皇位。为了防止丞相篡权，历代帝王都想了很多办法，办法之一就是利用自己的亲信来充当秘书，协助处理政务。如汉代的皇帝就用品级较低的尚书官来协助决策和行政。原来的丞相就被架空。但是，原来丞相管的那些事情并没有消失，只不过是换了一些近侍来管理，不久，这些近侍又演变为丞相。唐宋两朝开始时都是设三省，用多相制来分散丞相的权力，但中期以后，又走向集中。金朝和元朝都只设一省。元朝除了用枢密院、御史台来牵制、监督丞相外，在中书省设置左、右丞相，平章政事，左、右丞，参知政事等官，这些官员虽然有品级高低的不同，但都有宰相的权力。不过，元朝仍然出现了权相。可见，元朝的制度，对于维护皇帝的权力，也是不好的。朱元璋于戎马倥偬之间建立了明朝，没有充足的时间来考虑改革旧制度的问题，只好全盘照搬。
明朝的首任宰相是左丞相李善长。善长比元璋大14岁。1354年元璋南取滁州，谋独立发展时，他就来投奔，一直忠心追随。初见面时，元璋嘱咐他协助搞好将领们的团结，他果然不负所望，对各将领一碗水端平，建立了崇高威信，将领们都尊称他为“李先生”。这些人之间以及他们与元璋之间，有什么磕碰，只要李先生一出面，大多能大事化小，小事化了。他善于处理纷繁多绪的政务，干净利落。元璋每次领兵出征，都让他留守应天。他总是能使后方镇静贴服，确保粮草辎重源源供给。元璋将他比作汉高祖手下的萧何。1364年设中书省，他就做了第一位丞相。1370年（洪武三年）大封功臣，他被推为功臣第一，封韩国公，子孙世袭，给铁券，如果犯罪，自己可以免二次死刑，儿孙可以免一次。当时与他同任丞相的还有徐达。但徐达是武将，长年征战在外，丞相只不过是个虚衔。所以，善长就是中书省的惟一最高长官。
当时的功臣主要是出身淮西地区的将领，他们和元璋、善长间大多有同乡的关系。善长在淮西功臣中享有威望，又掌握了政治中枢中书省，又是功臣第一，常言说，功高震主，他还得加上权大慑主一条。权力就是权力，没有什么道德良心，一个人在政治系统中的地位，完全取决于权力的大小，这个道理，元璋最有透彻的了解。所以，对善长，他就不能不提防。
所谓提防，就是对丞相的权力进行制约。制约丞相权力的第一个措施便是让御史台与中书省互相监督。元朝的御史台之所以对相权起不了监督作用，是因为御史台的人都是宰相的亲信。所以元璋就用刚正不阿，出身浙东的刘基来做御史台的长官御史中丞。1368年（洪武元年）5月，元璋到开封视察并部署北伐机宜，命丞相李善长和刘基做京城留守。临行，特意召见刘基，要他不要有什么忌讳，敢作敢为。刘基于是命令各监察御史对官吏、内侍的不法行为，毫不留情地予以揭露。李善长对御史台的作法很为恼火。正巧，中书省都事李彬贪赃枉法的事实被揭露出来。李彬是李善长的亲信，善长亲自到刘基面前说情，请从轻发落，刘基没给面子，拟了个死罪报告元璋。元璋的批复带到京城时，正遇上天旱，李善长忙着祷神祈雨。善长问刘基：“祭神的时候也能杀人吗？”刘基说：“杀李彬，天必雨。”李彬便被毫不犹豫地杀了。8月22日，元璋回到南京，内侍们纷纷告状攻击刘基，李善长也说刘基跋扈。当然，刘基的所作所为是元璋自己允许的，但事情做得如此干净利索，元璋不免感到疑惧，又感到嫉妒。刘基素以才识卓越、料事准确著称，这难道就不会用来为他自己谋利益？想到这里，心中难免光火。当时旱情仍在继续，元璋就下诏让臣下提提建议，看有哪些事情得罪了上天。刘基上奏指出三件事有伤天意，元璋便一一照着他的建议办了。但天还是不下雨，元璋火了，寻思这老头儿（当时刘基58岁）是把自己的主意当作天意来吓唬他，便责问刘基说：“上天示警，殃及百姓。你狂瞽胡言，该负什么责任？”刘基适逢老妻去世，便请告回到老家。从刘基的事例看，用御史台制约相权，不一定就能保证不出权臣。
刘基离开南京前，曾提醒元璋，元朝的将军王保保（扩廓帖木儿）不能太小看了。果然，当年11月16日的泽州（今山西晋城）会战，扩廓部大败明将杨璟于韩店，这是明军北伐以来的首次失利。元璋想起了刘基的忠告，觉得这老头儿还有用，便又将他召了回来。
制约丞相权力的另一个措施就是采取多相制。元璋任命非淮系的文官来做左、右丞，参知政事等官，让他们与丞相之间互相猜忌、监督，使李善长在中书省不能一手遮天。
初设中书省时，元璋就任命元朝的户部尚书张昶做都事，后升为参政。又任命山西阳曲（今太原市）人杨宪等人当检校。张昶有知识有学问，对元朝的典章制度很熟悉，在进行政权建设时，这种人才是很有用的。杨宪嫌当的官小，一心想往上爬，就利用元璋对宰相们心存疑虑的心理，专门打小报告，说别人的坏话。张昶的妻子儿女都在塞北，身留江南，很是思念。元璋为了提倡臣下忠于君主的风气，便将那些忠心不改的被俘的元朝官吏放回塞北，张昶希望也能得到这个待遇，把全盘心思都向杨宪说了，并让他看自己写给家人的信。他还给元顺帝写了一封表章。谁料杨宪弄到了张昶家书和表章的底稿，一并上报给元璋，元璋就把张昶抓起来杀了。
从此以后，杨宪就更加威风凛凛，谁都不放在眼里。他对元璋说李善长没有当宰相的才能。元璋说：“善长虽然没有当宰相的才能，但与我同乡里，自起兵就侍奉我，涉历艰险，勤劳簿书，也有不少功劳。我既然当了皇帝，他当然应该做宰相。这叫做‘用勋旧’，今后不要再说了。”所以，李善长对他感到很厌恶。不过，杨宪一直官运亨通，1369年10月，升任右丞，当时平章政事一职是武将的加衔，他便成了善长的主要助手。
元璋真有用杨宪取代善长的意思，便试探性地询问刘基的意见。他先是说了一通善长的不是，刘基说：“善长是开国元勋，能调和诸将，这是他人所不及的。”元璋说：“他这个人多次想害你，你反倒为他留地步，我就请你担当这个重任。”刘基叩头说：“换宰相就好比换大厦的梁柱，必须有相当的大木。如果用小木头绑起来顶替，大厦立刻就会倾塌。”元璋又问杨宪怎么样，他知道杨宪与刘基的私交不错。刘基说：“杨宪有相才无相器。做宰相的人，必须持心如水，公平正直，不以自己的私利为转移。杨宪不是这种人。”元璋又问汪广洋如何。刘基说：“此人褊浅比杨宪更厉害。”又问胡惟庸，刘基说：“用他当宰相就好比用驿突作驾辕，恐怕会把车辕弄坏的。”元璋说：“朕的宰相没有比你更合适的了。”刘基说：“臣疾恶太甚，又不耐繁剧，勉强去做，会有损皇上的恩德。天下这么大，哪能没有适合担任宰相的人才，只是需要明主用心寻找。目前几位，实在未见得合适。”
元璋深通摆弄人的权术，当杨宪正得意时，却将高邮人汪广洋从陕西参政调到中书省当左丞，压在杨宪的头上。杨宪岂能甘心？于是遇事总是毫不退让，甚至顶撞。汪广洋生性柔弱，常常后退三分。杨宪却得寸进尺，步步相逼，做尽了文章，让御史刘炳二次上奏弹劾，将汪广洋贬谪到海南。元璋见刘炳二次上章弹劾同一人，觉得其中有毛病，就将他逮起来加以审讯，刘炳便把杨宪供了出来。李善长乘机揭发杨宪种种专权不法的罪状，杨宪和刘炳便被送去见了阎王。这是1370年8月间的事。汪广洋却因祸得福，不但官复原职，还被封为忠勤伯。
