突厥在隋朝初年分裂成了东突厥和西突厥两部分。当时，威胁唐朝的主要是东突厥。西突厥虽然也很强大，但无意进攻中原，于是李渊便联合西突厥以牵制东突厥，力求避免两面作战，这种策略起到了很好的作用，基本保证了长安地区的安定，也为统一之后，唐太宗李世民的大规模反攻突厥奠定了基础。
解决了身后事，下一步就是家门口的事情了。为了巩固和稳定关中，李渊首先迫使河东（今山西永济）的隋朝大将屈突通投降。然后全力对付金城的薛举父子，薛举是隋朝金城郡（今甘肃兰州）的富豪，在617年，先称西秦霸王，后来又称帝，占据了全部陇西，兵力有13万多人。李渊通过两次出兵，将其彻底击溃，收归了陇西。很快，第二年四月，在河西凉州（今甘肃武威）称帝的李轨也被俘虏。刘武周也是李渊的一个劲敌，他起兵较早，和突厥勾结势力比较强盛。公元629年，刘武周联合突厥南下占领了并州，唐朝的并州总管、齐王李元吉无力抵抗，弃城而逃。李渊先派裴寂出击，也大败而归。李渊这时想放弃这个地区，遭到李世民的反对。最后李世民领兵出征，用坚壁清野消耗对方的战术，全面击溃了刘武周的部队。刘武周逃到突厥，后来被杀。唐朝又恢复了原来在河东地区的统治。巩固了关中根据地，李渊以皇帝的身份传谕郡县，发布政令，依靠政治手段招纳很多地方的隋朝官员归附。
周围的劲敌消灭之后，李渊便把注意力投向了中原。当时，李密所领导的瓦岗起义军已经解体，在中原的主要对手是河北地区的窦建德起义军和洛阳王世充集团。王世充原是隋朝的江都通守，隋炀帝杨广被杀之后，他拥立杨侗为帝，又打败瓦岗军，除了李密和部分军队外，其余的瓦岗军都被王世充收编。到公元619年，王世充自己称帝，建立郑国，定都洛阳。李渊对此采取了远交近攻、先王后窦、各个击破的战略方针：在派遣使者暂时稳住窦建德的同时，由李世民统率唐军精锐主力进攻东都洛阳，首先消灭王世充集团，最后将王世充围在了洛阳一座孤城里，又在虎牢之战中一举击败驰援洛阳王世充的窦建德10万大军，紧接着又迫降了困守洛阳的王世充，从而翦灭了当时中原地区的两股主要武装势力。武德四年（623）七月，窦建德的部下刘黑闼复又再起，次年称汉东王，联络突厥进攻山东，武德六年初，也被镇压。
这次战役由于运用战略正确，取得“一举两克”的重大胜利，创造了我国古代“围城打援”的著名成功战例，这也是李唐统一全国的最关键一战，唐朝时期的名将如李世勣（徐懋功）、程知节（程咬金）、秦叔宝（秦琼）、尉迟敬德（尉迟恭）等均参加了这一战役。至此，唐王朝的统一事业基本完成。
隋朝末年，萧铣趁乱割据在江陵一带。萧铣占领的地区非常广阔，南到交趾，北到汉水，西达三峡，东及九江。但萧铣和其他割据者一样胸无大志，只是想偏安一隅。萧铣是原来南朝梁宣帝的曾孙，由于隋末各地起义不断，作为梁朝的后裔萧铣被地方将校推为首领，割据反隋，声称要恢复梁的疆土。隋炀帝杨广死后，一些隋朝的将领也投靠了他，其地盘不断扩大，成了南方最大的割据势力。李渊在派李世民东征王世充的同时，于武德二年（619）就派李靖入蜀协助赵郡王李孝恭做水战准备，因准备充分，用人得当，指挥得法，此役亦迅速告捷，萧铣投降，其领地全部归入唐朝版图。
割据江淮一带的是杜伏威，他占据历阳，自称总管。唐军围攻洛阳时派人招降他，杜伏威便投降了唐朝，被李渊封为吴王。杜伏威让属将辅公石留下统领兵将，自己请求入朝，留在长安做了人质。几年后，辅公石起兵反唐，称帝对抗唐朝，结果李渊将杜伏威杀死，派大将李靖等讨伐，不久，辅公石被当地武装抓获，送唐军营中处死，江淮地区也宣告平定。
梁师都也是隋朝末年趁农民起义的乱世割据称帝者之一，梁师都的存在主要靠突厥的支持，由于李渊派兵四处征讨，无暇顾及，后被唐太宗击败，完成了李渊没有完成了统一大任，彻底结束了隋末以来的大乱局面。
在整个统一全国的战争中，李渊始终是直接部署和筹划人，是战略的制定者和战役的最终决策者，采用军事进攻与政治瓦解相结合的手段，以达到不战而屈人之兵的目的。同时，善于听取大家的意见，集众人之智为智，合众人之长为长，从而作出正确决策。做到多谋善断，先胜后战，正是优秀的军事统帅所必备的素质。换句话说，李渊正是全国统一战争的实际最高指挥长官。
政治管理的出色：贞观之治的开创者
开元通宝
李渊称帝后，百废待举。他一面组织力量进行统一全国的战争，一面注意加强政权建设。唐朝前期的政治、经济、文化、军事制度，在李渊时期已基本上初具规模。
作为军事起家的将领，李渊非常重视军队制度建设。起事初期，为适应战争的需要，他建立大将军府，下设左、中、右三军，由三个儿子分别统领，形成了有力的统一指挥体制；为扩充兵源，实行募兵政策。但很快他就逐步将手下军队纳入了府兵制度中，这种制度创始于西魏的宇文泰时期，经过北周、隋朝，沿用至唐朝。府兵制建立在均田制的基础上，是兵农合一的制度，士卒平时在家生产，战时出征。农闲时由兵府负责操练，提高战斗力。府兵制将练兵权和领兵权分离，以防止将领拥兵自重，对抗中央。李渊分关中为12道，置12军。三年，12军各立军号，分道治军，耕战结合。建立12卫和东宫6率，完善了中央军事体制和府兵的编制，沿用了隋朝的一些做法，又有所发展。在治军上，为适应兴兵起事的需要，他注重广施恩惠，不惜重赏；同时又强调严肃军纪，禁止侵暴百姓。积极争取起义军的支持，收编其队伍，以不断壮大自己的力量。在用将上，注重用其所长，如对李世民、李靖、李建成、李世绩等人的使用，都体现了这一思想，使他们在唐初几次重大作战中都较充分地发挥了自己的特长。
在政治体制方面，李渊继承了隋朝的制度，又有一些发展，形成了中央以三省六部为主体、地方州县两级区划的行政体制。三省是尚书省、中书省和门下省。尚书省掌管全国政令，是命令的执行机关。下属共有六部，即吏、户、礼、兵、刑、工。吏部掌管官吏的选用、考核与奖惩；户部掌户籍和赋税；吏部掌礼仪和科举；兵部掌军事；刑部掌刑狱；工部掌土木工程；每部又分四司来作为办事机关。中书省负责皇帝诏书的起草，是决策机关。门下省则审核中书省起草的诏书，不合适的驳回修改。监察机关是御史台，职责是监督、弹劾文武百官。不过，在武德年间，担任尚书令的李世民因为长期统兵在外，基本上是以专门为他设置的天策上将府和所领的陕东道行台为实体。“随时署置，务从省便”是这一时期的特色。到武德七年，由于统一战争基本结束，国家体制才以“令”的形式固定下来。地方的政权机构基本是两级，即州和县。长官分别是刺史和县令。刺史每年要巡查各县，考核官员政绩，还负责举荐人才。县令要负责一县的各种事务。县以下是乡、里。
唐初的赋役制度主要是均田制和租庸调制。均田制继承自隋朝：丁男授田一顷，包括口分田80亩，永业田20亩。对于贵族田地也有限制：从亲王到公侯伯子男，授田数从一百顷到五顷不等。在职的官员从一品到九品，授田数从30顷到2顷不等。此外，各级的官员还有职分田，用地租补充，作为俸禄的一部分。均田制对土地的买卖也做了限制，官僚和贵族的永业田和赐田可以买卖，百姓在贫穷无法办理丧事时可以卖永业田，从人多地少的地方往人少地多的地方搬迁时也可以出卖永业田。相比较而言，李渊载起基础上又规定了受田者纳税，不受田者不纳税的政策，可谓有所发展进步。
在实行均田制的基础上，又实行了租庸调制，武德二年二月，初定“租庸调”法，到武德七年又加以完善，规定租赋以外不得横征暴敛。受田的农民，每丁每年要交粟2石，这是租；每年交绢2丈、棉3两，或者交布二丈五尺，麻3斤，这是调；每丁每年服役20天，不服役可以折算为每天绢三尺，这是庸。假如官府额外加了役期，加够15天则免调，加30天免租调。每年的加役最多30天。唐朝的租庸调制与隋朝的相比，用庸代替服役的条件放宽了很多，更有利于农民从事农业生产。
在钱币政策上，唐高祖李渊武德四年（623）七月十日，朝廷废五铢钱，行“开元通宝”方孔圆钱，“开元”有“开新”的意思。钱币重一两，我国币制中的一两十钱制由此时起源。其面文隶书“开元通宝”四字，由唐初书法家欧阳洵书写，字体端正有力。开元钱的出现宣告了自秦开始流通了800多年的半两和五铢两种货币的终结，“通宝”一词从此被历代王朝所沿用。
唐朝将隋朝创立的科举制度完善了很多。参加考试的一是国子监所属学校的学生，叫“生徒”，一是各地的私学中通过州县保举的学生，叫“乡贡”。科举的形式可以分为两种：一是常举，二是制举。常举每年定期举行；制举则由皇帝临时进行，亲自主持，考试科目也临时确定，时间和录取人数不定，没有常举那么频繁。常举的考试科目主要有秀才、进士、明经、明法、明算等，其中进士和明经最受欢迎，因为这是做官的重要途径。进士一科主要考诗词和歌赋，还有时务政策。
建国初，李渊还积极着手法律建设。在隋朝末年，隋炀帝随意破坏法制，致使用法混乱。李渊占领长安之后，便和刘邦一样，和百姓约法12条，除了杀人、劫盗、叛逆处死之外，其余一切苛刻法律全部废除。称帝建立唐朝之后又废除了隋炀帝徒有虚名的《大业律》，他令裴寂、刘文静、殷开山等人在隋《开皇律》的基础上修订律令，即《武德律》，重要的思路就是“尽削大业所用烦峻之法”，废除了隋朝大业年间的酷刑，“务在宽简”。他后来的继承者在修订法律时也基本上是延续了这样的思路。现存的《唐律疏议》作为我国古代法律的集大成者，被誉为中华法系的代表，其蓝本正是《武德律》。
在文化教育方面，李渊也做了一些有效的工作。在唐朝，儒家非常受尊崇，儒家的经书是教学的重要内容，如《周易》、《左传》、《礼记》、《尚书》。李渊对教育的重视可以从他专门颁布的敕令中看出来：“自古为政，莫不以学为先，学则仁义礼智信五者俱备，故能为利深博。朕今欲敦本息末，崇尚儒宗，开后生之耳，行先王之典谟。”
同时，李渊对佛教采取抑制政策。在唐朝初年，最早反佛的是相州邺人傅奕。李渊在做隋朝地方太守时和傅奕结识，李渊建立唐朝后任命他为太史令。公元624年，傅奕请求灭佛，认为佛教宣传的是“不忠不孝”的思想，迷惑百姓。傅奕所提倡的儒家思想是用忠孝来达到巩固政权的目的，而佛教却与此背道而驰。但李渊最后没有采取措施实施傅奕的灭佛思想。
在文化贡献方面，李渊下诏编撰了《艺文类聚》，这是一部类编图书，引用的古籍共有1000多种，为后人保存了很有价值的历史资料。
另外，李渊还留下了不少的治国之道。在总结隋朝用人方面，唐高祖说：“隋末无道，上下互相蒙蔽，皇上骄横，臣下谄媚奸佞之徒不断，皇上不知道改正自己的错误，臣子不为国尽忠，最终使国家危难，自己也死在佞臣之手。朕拨乱反正，志在安邦定国，平定乱世要用武将，守成治国要靠文臣，使他们各尽其才，国家才能安枕无忧。”他还有著名的《罢贡异物诏》，禁止进献珍奇之物。他说这样会玩物丧志，隋末因为奢侈浪费，喜好奇珍异宝，致使臣下纷纷进献，结果闹得民怨沸腾，国亡身死。
可以毫不夸张地说，唐高祖是中国历史上声誉蒙受损失较大的一位皇帝，究其原因，一是因为事实上他的统治时期很短，而且其前后两个皇帝（隋文帝和唐太宗）表现都非常突出，二是很大程度上他建立唐王朝的功绩被他的后代精心地掩盖了。实际上，恰恰是他策划了太原起事，并胜利地引导唐军进抵隋都，他所制定的战略保证了唐军能左右逢源、各个击破，并且直接促成了全国的重新统一。也正是他建立了初唐的制度和政治格局，为后世奠定了良好的组织结构和经济军事基础。
王夫之认为：“秦王之勇略，志大而功成；不知高祖慎重之心，持之固，养之深，为能顺天之理，契人之情，放道以行，有以折群雄之躁妄，绥民志于未苏，故能折棰以御袅尤，而系国于苞桑之固，非秦王之所可及也。”这一看法是比较中肯的，李渊作为开创唐朝大业的统帅，提出并实行了许多高明的战略，其作用和地位是不容忽视的。严格来说，是他开创了“贞观之治”，而唐太宗是完成了“贞观之治”。这正如统一全国的战争是李渊全面统领部署的，但真正统一则是到唐太宗的时候才最终实现。
