其实对于朱元璋的一再征召，刘基内心还是有一番纠结的。
作为一名乱世书生，他心中有着自己的利益考量。儒家的伦理道德、国家的命运和个人的政治前途等，都成为刘基所思考或决定他抉择的因素。特别是从元朝的官吏转而投靠自己历来所不屑的乱贼草寇，经历如此巨大的角色转换对于个人来说显然是困难的事。
帝国建立后，有人杜撰出西湖望云和陈说天命的故事。说的是刘基在做江浙行省儒学副提举时，曾经游览西湖，见西北方的天空飘起奇异的云彩，光映湖水中，同游的文人雅士都以为是庆云，准备分韵赋诗。刘基却在旁边大声说道：“这是天子气啊，应在金陵，十年后有王者起其下，我当辅之。”
此时的杭州城还是元朝的繁华之地，同游的人都以为刘基喝醉了酒，说的是醉话。这帮胆小怕事的文人吓得躲得远远的，抱怨道：“刘基，你这不是要连累我们抄家灭族吗？”
等到十年之后，朱元璋攻破处州时，向他抛出橄榄枝。临行之际，刘基在家中大摆筵席，向亲朋好友陈说天象，说：“此天命也，岂人力能之耶？”于是与朋友叶琛、章溢应盛情之邀辅佐朱元璋。
处于各种势力纵横捭阖、互争胜负之际，早已声名远播的刘基想要安安稳稳地过一种半隐半仕的生活，显然是不可能的。形势逼迫着他必须做出抉择，才能于乱世求得生存。
刘基综合各方面的因素考虑，这时候已经控制家乡处州的朱元璋无疑是最为合适的投奔对象，尽管一时半会他还无法甩掉身上的道德枷锁。可是在纷扰的现实面前，道德只是挂出去用来忽悠人的羊头。
此时的朱元璋，也正想尽一切办法逼迫着刘基跟自己一起上路。
刘基投奔朱元璋后，不但为其制定了长远的军事战略规划，而且以其敏锐、准确的判断力，参与指挥了许多堪称经典的战役。龙凤六年（1360），陈友谅攻陷太平后，率舰队从采石顺流东下，直逼应天。朱元璋召集将领们商议对策。有的主张投降，有的主张退守钟山，这令朱元璋极为失望。
就在这关键时刻，刘基提出了诱敌深入之策。朱元璋听从刘基的建议，将陈友谅诱骗至龙湾，一举将其击溃。还是在刘基的鼓励下，朱元璋亲自领兵奇袭陈友谅的老巢。打得陈友谅携家带口逃奔武昌，结果束手就擒。
像刘基这样一个运筹帷幄、决胜千里的神化之人，在战争年代是各方势力争相拉拢的人才，但是放在和平时期，这样的人极有可能成为权力博弈者的眼中钉。
刘伯温和朱元璋的关系，在帝国建制前后曾经有过一段水乳交融的蜜月期，就像朱元璋自己所说：三军所向，治国方略，卿能言之，朕能审而用之。
然而等到帝国建制后，君是君，臣是臣，一切都发生了变化。朱元璋用刘基参议决策多年，对其城府之深是有所忌惮的。龙湾大捷，奇袭江州，显示了刘基的过人智谋；拒绝救援安丰，将小明王别置滁州，展现了他的政治远见；至于那些传说中的占星术，更是让刘基的头顶上方环绕着一圈又一圈神秘莫测的光芒。
将这样一个人放在身旁，让他“看守”朱家的江山社稷，朱元璋又怎能做到高枕无忧。
其实对刘基这样的非淮人集团，朱元璋一直是怀有戒备之心的。他在南京时，朱元璋虽然优礼甚厚，但并不信任；虽然授于他们不同官职，但并未委以重任，给予实权。
洪武二年（1369年），朝廷立二十一功臣庙于鸡笼山，朱元璋亲定功臣位次，刘基居然不在其列。第二年，朱元璋大封功臣勋爵，封公者三十人，刘基仍然被排除在外。
如果真是论功行赏，刘基的功劳并不在这三十六人之下。事隔半月之后，朱元璋只是象征性地给刘基加封了个诚意伯，同时受封的还有汪广洋，位次、食禄都在刘基之上，可见朱元璋在对待这位诚意伯时并没有拿出十足的诚意。刘基的俸禄也是伯爵中最低的，年俸只有240石，而李善长是4000石，足足多出了十几倍。
由此可见，朱元璋对刘基只不过是做一些虚而不实的表面文章而已，始终没有将其引为肱股，更没有像对待淮西集团李善长等党人那样倚重。
淮西与浙东两大权力集团在朱元璋眼皮底下开始了明争暗斗，朱元璋似乎很希望看到官僚集团内部上演这样一出好戏。作为帝国的一把手，朱元璋之所以会抱着看戏的心理之外，还有很重要的一点，那就是朱元璋对帝国官僚除了有乡土之情外，还渗杂着他的驭臣之术，以及在使用人才方面，亦有不囿于乡党的观念。
两大权力集团的斗争，其实说白了就是刘基与李党（淮西集团）之间的斗争。在这场权力博弈中，刘基很多时候是一个人在战斗，他没有一个类似于李党以皇帝为靠山的政治集团在背后为自己撑腰。
单枪匹马同一个拥有强大政治势力的集团相抗争，刘基从一开始就处于明显的劣势状态。要知道，在帝国权力集团的斗争中，如果没有一个强大势力政治集团作为依托，又没有操有生杀予夺拥有至高无尚权力的皇帝的支持，单凭一己之力，去争取斗争的胜利，那简直是权力世界的天方夜谭。
洪武元年（1368年），算是刘基与李党（淮西集团）的第一次正面交锋。这一年，朱元璋北巡，命刘基与李善长留守京师。
当时的刘基是御史中丞兼太史令，是帝国监察机构的官员。他的职务是御史中丞（御史台第三把手，一二把手是汤和、邓愈），其实手里并没有多少实权。
引发双方矛盾的导火线是一件涉及中书省都事李彬的案件，李彬是李善长的亲信，因为犯了贪纵罪被抓了起来。查清罪行后，刘基决定要处死他。李善长连忙上门说情，可刘基还是将这件事向朱元璋报告。朱元璋大怒，命令立刻处死李彬。
巧合的是朱元璋的这份回复恰好落在李善长的手中，他心中愤怒却也不敢隐瞒。为了救自己的亲信一命，他生编硬造了一个理由。他以为只要自己说出这出口，刘基应该会卖自己一个面子。
他找到刘基，对他说：“京城有很久不下雨了，先生熟知天文，此时不应妄杀人。”
李善长明知刘基深通天文之道，便以此为借口。如果刘基坚持要杀李彬，那就索性将天不下雨的责任推到刘基的身上。
令他没有想到的是，刘基给出的答案是：“杀李彬，天必雨！”
刘基的态度是如此决绝，没有一点商量的余地。李彬就这样被依法处死,李善长就这样被彻底激怒，他开始准备自己的第一次反击。
刘基敢说这样的话，应该说他是有一定把握的，他确实懂得天文气象。可是这一次刘基的运气实在不好，过了很长时间天也不见一滴雨。等到朱元璋北巡归来，李善长的小宇宙开始爆发。他指控刘基在祈雨坛下杀人，才会惹得天怒人怨。
李善长还嫌自己的能量不够，指使众多对刘基怀有敌意的官员集体围攻，毋庸置疑其中以淮人居多。对于横行无忌的淮西集团的官员们而言，刘基就是他们捞取权力资本最大的障碍。这帮人对刘基是既惧且怕，一定要想办法将其置于死地而后快。
刘基一人独挑李党（淮西集团）的结果，就是以自己的黯然退离为代价。刘基在其时朝野上下，名望遐迩，如果他是一个心术不端的官员，是完全有能量在朝中搞一个浙东人的小圈子或小山头的，可他并没有这么做。
李元璋对刘基虽有诸多不满，抱怨他为人死板，过于严肃。可是在制定治国之策时，他还是会与刘基商讨。刘基亦能一如既往，不避嫌恶，坦诚讲出自己的不同意见。
就连朱元璋在刘基离开朝堂后，也发出这样的感叹“刘伯温在这里时，满朝都是党，只是他一个不从”
