面对危局，李渊曾一度准备放弃河东，守住蒲津关以西，保卫关中。李世民上表说：“太原是王业的基础，国家的根本，河东物产丰富，人民殷实，是京城长安的资源补给地，一旦放弃，后果不堪设想，请拨给我精兵3万，我一定要消灭刘武周，收复汾、晋。”李渊于是调拨关中所有的军队，增加李世民兵力，命他讨伐刘武周。李世民率军自龙门（今山西河津县西北）渡黄河，驻扎在柏壁（今山西河津县北），跟刘武周军对峙。李世民传令大军征集粮草，休养士卒，饱喂战马，只派小股兵力游击抄掠敌营，主力部队则坚守营垒，拒不出战。渐渐地，敌军粮草不给，气势衰落。李世民看准机会，在敌军粮尽后撤时挥军追击，在霍邑北面的雀鼠谷一天八战八捷，刘武周全军溃败。部将尉迟敬德投降。刘武周势穷，放弃太原，逃奔东突厥，后被突厥杀死。唐军收复了并州，不久，被刘武周侵占的地盘全部复归于唐。刘武周占领河东，犹如悬在长安头上的一把刀，利刃除去，唐王朝就可以无北顾之忧，可以一意东向，出关与群雄逐鹿中原、争夺天下了。
李渊争夺中原的主要对手是王世充。王世充原为隋江都通守，炀帝被杀后，他在东都立杨侗为帝。不久，王世充击败李密，还师洛阳，被隋皇泰帝杨侗策授相国，封郑王、总理百事，掌握了东都大权。619年（唐武德二年三月），王世充废掉杨侗，自做皇帝，年号开明，国号郑，占据洛阳，成为河南最大的割据势力。
620年（唐武德三年七月），李渊派李世民率军东出潼关，直趋河南，攻打洛阳。王世充所属河南州县，相继降唐。王世充凭借着洛阳城墙坚固、物资充足，督军死守，并遣使向窦建德求援。窦建德想跟王世充合力对付唐王朝，然后再找机会消灭王世充，因而答应了王世充的请求，带领10万人马，号称30万，水陆并进，援救东都。唐军李世民一面留部分部队继续围攻王世充，自己则亲率精兵抢占武牢关（今河南荥阳氾水镇），阻击窦建德。窦建德自恃兵力强大，没有把唐军放在眼里，不听从部下的建议，命令全军出动，连绵20里，在战鼓声中向虎牢关杀奔而来。唐军则按兵不动，以逸待劳。在窦建德军队饥渴疲劳，队伍散乱的时候，唐军突然出击，窦军大溃，被俘5万人，窦建德本人也受伤被俘。窦建德失败后，李世民再回兵围攻东都，王世充眼看大势已去，只好向唐军投降。河南最大的割据势力被消灭了。
对于农民起义军，唐王朝也施行镇压与招抚相结合的策略，窦建德被俘后为李渊下令杀害。李渊又要召集他的部将到长安，准备加以迫害。621年（唐武德四年七月），窦建德部将推刘黑闼为首，在漳南（今山东德州一带）起兵反唐，为窦建德报仇。刘黑闼勇敢善战，各地的窦建德旧部也闻风而起，不到半年时间，就完全恢复窦建德故地。622年（唐武德五年），刘黑闼在洺州（今河北永年）自称汉东王，屡败唐军。李世民率军东征刘黑闼，刘黑闼率步骑2万人迎战，在决战的关键时刻，唐军掘开洺水上游的堤坝，大水排山倒海而下，洺水暴涨，深达1丈有余，刘黑闼大败。两个月后，刘黑闼又卷土重来，李渊派皇太子李建成亲征，建成采纳魏徵的建议，实行安抚政策，释放俘虏，争取民心，宣称除刘黑闼以外，一律不加追究，以瓦解刘黑闼的部队。623年（唐武德六年）正月，刘黑闼被俘遭杀害，河北、山东地区归唐王朝统治。
江淮地区杜伏威领导的农民起义军于617年（隋大业十三年）进据历阳（今安徽和县），后移居丹阳（今江苏南京）。唐军围攻东都洛阳时，使人招降了杜伏威。李渊封杜伏威为吴王，任东南道行台尚书令、江淮以南安抚大使、上柱国。后来，杜伏威入朝长安被留。另一领导者辅公祏率领江淮义军在丹阳反唐，自称宋帝。李渊派大将军李孝恭、李靖、李世勣等分路进攻，还把秦王李世民从防备突厥的北线调回，任命为江州道行军元帅，负责部署征讨辅公拓。经过多次较量，624年（唐武德七年），辅公祏率军弃丹阳败走，在武康（今浙江吴兴）被当地地主武装俘虏，解送到丹阳被害，江南、淮南全被平定，成了唐王朝的辖区。
在长江中游，萧铣于618年（唐武德元年）在巴陵称帝，不久迁都江陵，出兵攻夺巴、蜀，有兵40万。621年（唐武德四年），李渊派名将李靖等自夔州（今四川奉节县）顺江东下，突袭江陵，两湖悉平。唐将李靖平定萧铣后，传檄岭南，岭南冼夫人的孙子冯盎立即上表献地。有人劝他割据称王，学秦末的赵佗称南越王，他不听。对维护唐初的统一有贡献。
朔方的梁师都，是依靠突厥贵族的庇护才得以存在的一个北方割据势力。617年（隋大业十三年），梁师都在朔方起兵反隋，攻占雕阳、弘化、延安等郡，自称皇帝，国号梁，年号永隆，依附突厥贵族，被封为“解事天子”。628年（唐贞观二年），唐太宗乘突厥衰乱、派兵击灭了这个政权。至此，李渊父子经过十年的统一战争，兼并了官僚地主的割据势力，打败了农民起义军，终于重新统一了中国。
随着唐王朝的建立和统一，各种典章制度也不断地设立和完善。唐王朝是我国封建社会各种政治、经济、军事、文化制度相当完备的朝代。
李渊建唐开始，各种政权组织皆因袭隋制。624年（唐武德七年），为适应全国统一后的局势，参考隋的制度，制定唐代的职官制度。
在中央实行三省六部制。三省是中书省、门下省、尚书省。中书省是决策机关，负责制定政策，草拟有关军国大事的诏敕。长官是中书令，僚属有中书侍郎、中书舍人等。门下省是审议机关，主管审核中书省的决定，并有权驳回重议。长官是侍中，僚属有黄门侍郎、给事中等。尚书省是执行机关，负责执行中书、门下二省的决定。长官是尚书令，僚属有左右丞、左右司郎中等。三省的长官都是宰相，他们共同商议国家大事，共同对皇帝负责。他们议政的地方叫政事堂，议政的会议也就被称为政事堂会议。三省的长官位高权重，并不一定全置，皇帝往往指定一些资历较浅、品级较低的官员参加政事堂会议，给这些人加上“同中书门下三品”、“同中书门下平章事”等名号，说明他们也是宰相。这些人年轻品低，易于控制，从而加强了皇帝的集权。宰相成员的增多，也便于发挥众人的智慧，又互相牵制，可避免权臣专权的弊端。六部是吏、户、礼、兵、刑、工六部。吏部主管官吏的选用、考绩等事，户部主管户口、土地、赋税等事，礼部主管礼仪、祭礼和科举考试等，兵部主管军事，刑部主管刑法诉讼，工部主管土木工程。各部长官为尚书，副长官为侍郎，直属于尚书省，分别执行中书、门下二省制定的政令。
唐代中央监察机关为御史台。长官为御史大夫，副长官为御史中丞。所辖有台院、殿院、察院三院，分工负责中央内外监察工作。台院设有侍御史，负责纠举推鞫狱讼，审查官员犯法案件；殿院有殿中侍御史，负责殿廷供奉仪式及京城的纠察；察院有监察御史，负责巡按州县，纠视刑狱，审察地方军政、民政、财政事宜。
此外，中央还有二省：殿中省，掌管宫廷日常事务；秘书省，掌管国家图书。中央负责管理各种具体事务的机构是九寺和五监。九寺有：太常寺，掌礼乐郊庙社稷之事；光禄寺，掌酒醴、膳食；卫尉寺，掌器械、文物；宗正寺，掌天下族亲属籍；太仆寺，掌厩牧、辇舆；大理寺，掌刑名、断狱；鸿胪寺，掌国宾、礼仪；司农寺，掌仓储、营田；太府寺，掌财货、贸易。其正副长官为卿、少卿。五监为：国子监、掌儒学训导；少府监，掌皇家手工业生产；将作监，掌土木工程建筑；军器监，掌军器制造修缮；都水监，掌水利建设。其长官国子监称祭酒，都水监称使者，其余称监。
唐朝的地方行政机构，基本上是州、县两级制。州的长官是刺史，县的长官是县令。刺史每年一巡属县，考核官吏，催促赋役，举荐人才。县令主一县之事，县以下有乡，乡以下有里，里是最基层行政单位，里设里正，管百户。缘边重要地方，唐初设有总管，兼管军民要政，武德后期改为都督。636年（唐贞观十年），为了加强中央对地方的控制、唐太宗依据地理形势，把全国分为关内、河南、河东、河北、山南、陇右、淮南、江南、剑南、岭南10道，至唐玄宗时，又重新分全国为15道。道不是一级行政单位，而是监察区，皇帝经常派巡察使、按察使等官员到各道进行巡察、监督。
在经济制度方面，唐朝继承了北魏、隋朝的均田制和租庸调制，并作了一些改变。624年（唐武德七年），唐高祖李渊颁布均田令。规定：凡18岁以上的男丁给田一顷，其中80亩为口分田，20亩为永业田。60岁以上的老男、残疾人给口分田40亩。寡妻妾给口分田30亩，如果是户主，加给永业田20亩，口分田30亩。工商业者、官户受田为百姓的一半，道士、和尚给田30亩，尼姑、女冠给田20亩。受田人身死，永业田可传子孙，口分田归官，另行分配。官吏受永业田，从亲王到公侯伯子男，授田数量从100顷递降至5顷，在职官员从1品到9品，受田数由30顷递降到2顷。有战功的勋官也分别授田30顷至60亩不等。此外，各级官吏还有职分田，其地租作为官俸的补充。官府有公廨田，其地租充作官署的费用。官僚贵族的永业田和赐田，可以自由出卖，百姓在无力丧葬时准许出卖永业田，百姓从人多地少的狭乡迁往人少地多的宽乡和卖充住宅、邸店、碾硙的，也准许出卖口分田。
与前代相比，唐代的均田令发生了许多变化。唐均田令取消了奴婢和耕牛授田，一般妇女也不受田，这说明奴婢的数量大大减少，在农业生产中已不占主导地位。妇女不受田，也不负担租调，对于一夫一妇来说，是减轻了负担。工商业者和僧尼道士女冠授田，说明商人地主和寺观地主的势力得到发展。官僚贵族在授田上的种种特权，说明均田制保护地主阶级利益的实质。均田令放宽了对土地买卖的规定，说明封建政府已承认土地兼并这一事实，也为以后的土地兼并开了方便之门。唐朝前期，均田制在一定程度上得到实施，对缓和农民的土地问题，恢复和发展农业生产起了积极的推动作用。
唐代的租庸调法规定：受田农民每丁每年要交纳粟2石，叫做租。又随乡土所产，每年交纳绢2丈，绵3两，或布25丈，麻3斤，叫做调。每丁每年要服役20天，如不亲自服役，可每天折绢3尺或布375尺，叫做庸。如果政府有事加役，加役15天，免调，加役30天，租调全免，每年的额外加役最多不得超过30天。唐代的租庸调和隋代相比，以庸代役的条件放宽了。隋朝规定50岁以上的人才可以以庸代役，唐代则取消了年龄限制，同时规定了役期的最多时间，这样可以使农民有更多的时间从事农业生产。
在军事制度方面，唐承隋制，继续实行府兵制度，并进一步和均田制结合起来。中央设12卫统领府兵，这12卫是：左右卫、左右骁骑、左右武卫、左右威卫、左右领军卫、左右金吾卫，12卫各设大将军1人，直属皇帝统率。各卫之下设折冲府，折冲府又称军府，每卫统军府40至60个不等。府兵称卫士。折冲府分上中下三等，上府有卫士1200人，中府1000人，下府800人。府的长官为折冲都尉，副长官为果毅都尉。府以下有团，卫士300人为团，团有校尉。团以下有队，卫士50人为队，队有队正。队以下有火，卫士10人为火，火有火长。
府兵卫士从军府所在地的壮丁中挑选，21岁入军，到60岁免役，府兵本人免输租调，不服徭役，但要自备资装，轮流宿卫京师和戍防征战。唐代实行府兵制，加强了中央集权的力量，由12卫督率各府。636年（唐贞观10年）时，全国有军府634个，府兵68万人，其中关中地区就有261个军府，府兵26万，占总兵力的40％，形成举关中之众以临四方、内重外轻的军事布局，有利于唐朝对全国的控制。府兵自备军粮、武器，平时种地，农闲操练，减少了国家的军费开支，政府基本上无养兵之费，但同时也加重了农民的负担。由于府兵制度是建立在均田制度之上，府兵依令受田，寓兵于农，兵源充足。唐初的强盛，与唐王朝实行府兵制度，有一支强劲的府兵，关系至大。
在选官制度方面，唐朝继续实行隋朝的科举制度，并且进一步发展和完善。唐代科举分常举和制举两种。常举即每年举行的定期考试，常举科目有秀才、明经、进士、明法、明算、明书、道举、童子等科，其中明经、进士两科最为热门。明经考试以帖经为主，帖经就是把经书上的文字用纸帖掉几个，叫应试的人写出来，也就是要看重儒家经典的背诵。进士考试以诗赋和时务策为主，这需要独立思考。因此中明经易，中进士难。当时明经的录取率为十分之一二，进士的录取率仅为百分之一二，悬殊很大。明经、进士等科是取得出身资格的考试，要做官还要到吏部应选，由吏部考试，然后授官。所谓制举，是由皇帝根据临时设置的科目，考试选拔人才，如直言极谏、才高位下，辞藻宏丽等科。一般地主和现任官吏均可应试。考中后原有官职的可升官，没有官职的由吏部授官。
唐代科举制度的发展和完善，适应了庶族地主兴起的历史趋势和大一统国家的要求，为地主阶级的各个阶层参加最高统治集团打开了入仕之门。唐代官僚队伍的社会基础比较广泛、文化素质比较高，显然与科举制度的实行有很大的关系。
