殷、秦二位将军大胜而归，李世民仍然不出战，诸位将领请求乘胜与宋金刚决战，李世民说：“宋金刚孤军深入，将猛兵精，利在速战速决。我军闭营养锐，尽挫寇锋。等他粮尽的时候，自己退去的时候，我们再出击！”
武德三年二月，刘武周派兵入寇潞州，被王行敏击破。
三月，唐行军副总管张伦在浩州击败刘武周，俘虏并斩首千余人。
四月，刘武周多次进攻浩州，但被李仲文击败。此时，宋金刚军中的粮食已尽，于是向北撤退。李世民看准这个时机，决定反击，于是率军北上猛追。在吕州，李世民追上寻相的军队，只有少数敌军，很快就解决了。李世民率大军乘胜追击，一昼夜行两百里，战数十合。到达高壁岭时，刘弘基劝谏：“士兵们与敌人交战已久，已疲惫不堪，饥饿难忍，驻军在此，等待粮食运来，让士兵吃饱后，再进军！”
李世民说：“宋金刚计穷而走，军心浮动，很容易攻破，这可是取得胜利的好机会，切不可放过，所以得忍着饥饿行军！”
说完，李世民策马前进，乘胜追击，将士们见统帅如此身先士足，也打起精神来，跟在李世民后面，向前追击，一直追到雀鼠谷（今山介休西南），才追上敌军。
宋金刚边战边退，交战八次，最终宋金刚被李世民打败，俘虏和斩首数万人。宋金刚落荒而逃。
夜晚，李世民的军队夜宿于雀鼠谷西南。李世民两天不进食，三天不解甲。军中只有一只羊，李世民命人杀之，然后于将士们分食。再率军进攻介州。
宋金刚在介州城里还有两万军队，于是开城门应敌，背城列阵。李世民下令前军迎战，自己率后军绕到敌后，夹击宋金刚，大败敌军，斩首三千多级。宋金刚骑马逃走，李世民追击数十里。
李世民与宋金刚介州的决战已经取得胜利，尉迟敬德收拾余众，和寻相还守在介州。李世民派人招抚，两人最终来降。从此尉迟敬德成了秦王李世民麾下的一名勇将。
刘武周听到宋金刚兵败，大为恐惧，料想唐军要进攻并州，于是放弃并州逃亡突厥。
宋金刚准备收拾残兵败将，但将士们一听说，还要打战，都胆战心惊，四处逃去。无奈，宋金刚逃亡突厥。但后来，突厥还是杀死了刘武周和宋金刚。
李世民对刘武周作战的胜利，消除了唐王朝东向争天下的北顾之忧。
在巩固关东中原地区，原有的李密、王世充、宇文化及，窦建德等四支强大的军事集团。早在武德元年，李密先后被王世充、宇文化及重创并击败后，在魏征的劝说下，率领残兵归顺唐朝。于文化及也被唐军击败！
由于唐军在武德三年征讨刘武周，使得唐军在关东所占领的全部地盘已经全部丧失。占领关东的两支强队，王世充在河南，占据东都洛阳，自立为帝，国号“郑”，窦建德在河北，山东，于武德元年称帝，国号“夏”。
武德三年（620年，）李渊派秦王李世民进攻东都，讨伐王世充。李世民率大军驻扎在离洛阳七十多里的新安县。已经得知唐高祖派人东征的王世充，事先已经做好了抵御的准备和部署。李世民的部将罗士信率前军包围慈涧，王世充亲自率兵３万来救援。正当李世民前往前线侦探敌情时，不小心，与王世充的骑兵相遇。由于李世民只带了很少的骑兵，很快被王世充的骑兵包围。在道路险阻，寡不敌众的情况下。李世民冷静面对局势，镇静坐在马背上，拔出弓剑，左右驰射。百发百中，射倒不少敌人，并俘虏王世充部下将军燕琪，王世充的军队见自己的将领被俘虏。不得已而退去。尘埃满面的李世民，刚要走进营地，却被守营的士兵拦截住问：“你是谁，胆敢闯入我们营地！”
“我难道你们不认识了吗？我秦王李世民！”李世民说。
守营的士兵都面面相觑，根本不相信李世民的话，其中一个士兵说：“我们的统帅会有你这么邋遢？满身是泥，全然不像是一个人。”
李世民这才明白，原来刚才与敌人交战，弄得全身是泥土，一时让士兵认不出自己了，于是脱下衣服，擦净脸上的泥土，士兵这才认出是元帅李世民。大家认为刚才对秦王失礼了，都纷纷跪下来请罪；但秦王并没怪罪他们，叫他们起身，然后回帐内整顿休息。
第二天，李世民根据奏报的实际情况，重新部署兵力，亲自领兵进发慈涧。王世充见唐军来势勇猛，便从慈涧拔营而还洛阳。
李世民派行军总管史万宝从宜阳向南据守龙门，派将军刘德威自太行围河内，派上谷公王君廓自洛口断其粮道，李世民亲自率军驻扎与邙山，形成对洛阳包围之势。
在李世民强大军队的威慑下，王世充原先所属的一些早就对他残暴不仁的州县官员纷纷降唐，王世充移兵青城宫，列阵与李世民对垒。
王世充隔河向李世民喊话：“隋朝灭亡了，李渊在关中称帝，我在河南称帝，我王世充不曾西进，侵犯大王的领土，大王何故要率兵侵犯我方？”
李世民叫宇文士及答道：“天下人大都仰视大唐雄风，甘愿俯首称臣，只有你自以为是，独自声教。为此而来！”
王世充又高喊：“我们双方讲和，行吗？都给对方一条退路！这样天下才会真正太平！”
李世民又叫宇文士及答道：“本王奉诏取东都，没有讲和的道理。”
王世充不得已，垂头丧气地回到营帐，召集将领们商讨迎战敌军的办法。
秦叔宝、程知节、尉迟敬德，翟长孙分别统领李世民挑选的精兵左右两队，李世民亲自统领一队为前锋。乘机进击，就这样，两军相持起来！
一天，屈突通和窦轨领军转移营地时，突然遭到王世充的袭击，由于处于被动，形式对他们非常不利，危机时刻，李世民赶来相救，大败王世充，并俘虏他部下的大将，斩首六千余级。王世充却侥幸逃回。
接下来，李世民移兵青城宫，王世充率兵两万出城，在谷水附近和唐军对抗。
李世民的精兵在北邙列成阵，李世民在城楼上观望敌情时，对左右的将士说：“看来敌人的形势很窘迫，他们倾巢而出，是想侥幸夺得战争的胜利，如果我们今天打败他们，他们再也不敢轻易出战了。”
“大王说的对，我们立即出战，打的敌人落花流水！”将士们说。
于是，李世民对屈突通说：“你率步兵五千，渡过河，攻击王世充，接上敌人后，立即放烟，我会带兵南下，与你合兵力战。”
屈突通带兵前去，李世民暂时观望敌方。当烟雾升起后，李世民为了探知敌人军力虚实厚薄，只带十几个精悍的骑兵，冲到敌人的后营。王世充部下对突如其来的士兵抵挡不住，被杀伤很多。在李世民正要返回，突遇到一长堤，除了李世民和将军丘行恭的马骑没掉进水里，其他都失足掉水里淹死了，这时，王世充的骑兵已经追上他们；不巧，李世民的马被流矢击中而死，丘行恭回头射杀追兵，箭无虚发，追兵不敢再向前。丘行恭下马，把自己的马给李世民骑。自己在马前，手执大刀，杀出血路，回归营地。
接下来，王世充拼死抵抗唐军的进攻，曾四次散而复合。李世民抓住机会，麾兵直抵城下，斩首，俘虏敌人无数，把洛阳城市团团围住，四面围攻，昼夜不息，十多天攻不下，双方士兵都已疲惫不堪。王世充手下许多士兵想逃跑，都被他抓回杀死。唐军总管刘弘基劝谏李世民说：“敌人抵抗顽强，对我军非常不利，将士们都已疲惫不堪，处于崩溃的边缘，先班师回去，休整军队，再商良策，进攻洛阳！”
李世民说：“我率大军来攻克洛阳，当一劳永逸，关东大多州县已经收复，惟独洛阳还没收回，洛阳守军也坚持不了多久了，成功就在眼前，我为何放弃归去？”
于是，李世民下令：不攻破洛阳，绝不班师回去，谁再说要班师，就砍谁的头。
将士们再也不敢说要班师，只得听从李世民，留下，继续进攻洛阳。
李渊在长安听到消息，也下密诏，让李世民回去。李世民上表说：攻克洛阳后回。
在李世民再次进攻洛阳时，王世充派人向窦建德求救，窦建德为了自己的安全，保持鼎足三立的局势，于是率10万大军前来援救王世充。
李世民为此聚众商议对策，大多数人认为应该避其锋芒。
郭孝恪说：“王世充日幕穷途，他求窦建德来相助，天意让他们两军都灭亡。我们现在应该抢在他们前面，占据虎牢，等待时机成熟，我们一定能取得胜利！”
薛收说：“王世充现在被我们包围，所率之兵虽精良，但是缺乏粮食；这样他们求战不得，坚守也会很困难。现在窦建德率军来这里和王世充会合，从河北运粮供应洛阳，那样军队就能够支撑很久，这样，攻破洛阳，统一天下就遥遥无期了。现在我方应分兵守攻洛阳，王世充出兵时，不要跟他交战；大王率骁勇之兵先占据成皋，等窦建德到来，统兵大败窦建德，王世充就不难对付了，估计不要二十天，两军主帅都会束手就擒。”
李世民说：“有道理，就按照你的作战方案实施，我们取得胜利的可能性非常大！”
屈突通、封德彝反对说：“我军已经疲惫不堪，王世充的军队我们不能轻易攻破，现在窦建德的军队也倾巢而出，使我军腹背受敌，形势对我们非常不利，不如先退到新安，摆脱困境！”
李世民说：“王世充军队疲惫不堪，缺乏粮食，军心浮动，我们可以用围而不打的办法解决，根本用不着力量去进攻。窦建德刚打败孟海公，骄傲的情绪正猛涨，我军先占据虎牢，扼住他的咽喉，他若是要冒险进攻，我们就很容易取得胜利了。如果他狐疑不迎接战争，短时间内，王世充自然溃败。我军立即攻入城内，那样会使得我军士气高涨，百姓拥护，兵力变得强大，可谓是一石二鸟啊！如果不尽快占据虎牢，让窦建德先攻进的话，我军新占领的领地，必不能守住。敌方两军合力攻打我们的话，将势不可挡，所以我决定继续进攻敌军。”
将士们按照李世民的作战方案，各就各位，屈突通率军协助齐王李元吉围攻东都。李世民亲自率强兵勇将直奔虎牢，进驻虎牢的第二天，先派骁骑四百，在离虎牢二十里处，窥探窦建德营寨的动静，自己身边仅留下四骑跟随自己，其余的骁勇士兵分别有秦叔宝、李世积、程知节带领，埋伏于路旁灌木丛中。
李世民对随从尉迟敬德说：“我手执弓箭，你手拿长矛，就是百万大众见了我们，也奈何不了我们！”
尉迟敬德高兴地说：“敌人见了我们，肯定向后方逃跑！”
李世民说：“盗贼见了我们害怕地逃跑，上策也！”
在离窦建德营地两三里路程时，窦建德的游兵看见了李世民他们，游兵以为他们是侦探，也就没在意，到是李世民向他们自我介绍说：“我秦王李世民也！”
