就在李世民随同父亲驻军山西的这一年，全国的形势发生了巨大的变化。在农民起义军的打击下，貌似强大的隋军土崩瓦解，隋炀帝困守江都，危在旦夕，隋王朝已经注定了灭亡的命运。在这种形势下，早就有取代隋朝之心的李渊见时机成熟，也开始密谋策划准备起兵。年轻有为、善于谋略的李世民，作为父亲李渊的得力助手，参与了起兵的全部密谋和决策活动，做了大量的组织和发动工作。他一方面协助父亲招募军队集结力量，同时又在父亲的授意下，利用各种关系和手段，结交了大批英豪人物。当时因逃避辽东战役而亡命太原的隋军将领孙顺德、刘弘基、窦琮等人都与李世民结为心腹好友。此外，李世民还结交了足智多谋的晋阳县令刘文静和晋阳宫（隋炀帝在晋阳的行宫）副监裴寂等人，为起义的成功做出了重要的贡献。
大业十三年（617）五月，在各方面准备成熟之后，李世民协助父亲李渊除掉了隋炀帝派来监视他们的亲信，在晋阳宣布起兵，正式打出了反隋的旗号。
晋阳起兵以后，李世民的哥哥李建成、弟弟李元吉以及妹夫柴绍也先后率领一部分队伍从河东、长安秘密赶至晋阳会师，使起义力量迅速扩大。在确定了西入关中夺取长安的战略目标以后，李渊随即留元吉镇守晋阳，以建成和世民为领军都督，分别统帅左右两路大军，誓师入关，直取长安。占领长安以后，李渊于大业十四年（618）在长安称皇帝，改国号为唐，定年号为武德，正式建立了中国历史上着名的唐王朝。唐朝建立后，李世民被封为秦王，他的哥哥建成以嫡长子身份被立为皇太子，弟弟元吉被立为齐王。从此以后，李世民就以秦王的身份活动于政治舞台，叱咤于陇西、关东。
唐王朝建立后，摆在李氏父子面前的首要任务，是削平群雄，统一全国，巩固李唐政权。但是，李渊称帝后便不再亲自挂帅出征，皇太子建成也需要留在京城协助父皇处理各项政务。因此，指挥和领导统一战争的重任就自然地落在了秦王李世民的身上。
当时，国内尚有薛举、刘武周、王世充、窦建德等强大的军阀势力和农民军势力，统一的任务是非常艰巨的。面对如此艰巨的任务，年仅22岁的李世民毅然挑起了这副重担，统率千军万马，开始了他历时4年多的、艰苦卓绝的统一战争生涯。
李世民挂帅出征后，采取了先西后东的战略方针，首先进攻盘踞在陇右地区（今甘肃六盘山以西、黄河以东地区）的军阀薛举。
薛举占有陇西（今甘肃陇西）、西平（今青海乐都）、天水（今甘肃天水）诸郡，建号秦国，自称秦帝，以天水为都城，拥兵30万，雄踞西北，成为关中地区对唐政权威胁最大的一股势力。武德元年（618）七月，李世民与薛举在高庶（今陕西长武县北）开始了第一次会战。高庶距唐军后方近，距秦军后方远，对秦军来说，利在速战。李世民深深地了解这一点，因此在战略上采取了深沟高垒、闭门拒战的办法，以己之长制敌之短。在两军对垒之际，李世民突然患了疟疾，只得将军务委托给随军长史刘文静和司马殷开山处理，并一再告诫他们，切不可轻易出战，继续采取闭门拒战的方法，以挫秦军的锐气，待秦军粮尽兵疲时，再与之决战。但刘、殷两人并没有听从李世民的告诫，加上唐军新定关中，官兵存在着骄傲情绪，急于求战。因此当秦军来挑战时，刘、殷即率军出城应战，结果浅水原一战遭到大败，唐军死伤大半，大将慕容罗喉、李安远、刘弘基也被秦军俘虏，高庶城被秦军占领，李世民只得带兵退回长安休整。这一仗由于轻躁致败，使年轻的李世民受到极大的教训。在以后的历次战争中，他一直保持清醒的头脑。他的军事指挥艺术也在经历了这次败仗后，逐步走向成熟。
薛举在取得浅水原大战的胜利后，突然得病暴死，他的儿子薛仁杲继立为秦帝，屯兵于折庶城（今甘肃泾川县东北）。九月下旬，经过两个月休整的李世民率军进抵高庶城下，薛仁杲派大将宗罗喉领兵迎战李世民。这次李世民吸取了上次失败的教训，仍然采取坚壁不出的办法。宗罗喉一再前来挑战，李世民头脑冷静，坚守不出。相持了60多天以后，秦军粮尽，军心动摇，士气低落。李世民见时机成熟，立即命令大将梁实率领5000人马在浅水原扎营，以引诱秦军。当宗罗喉集中全力进攻梁实的时候，李世民派大将庞玉率军2万，在浅水原南面向秦军进攻，自己则亲率大军从浅水原北面攻击敌人。宗罗喉在唐军的南北夹击下，迅速溃败，向折庶城逃跑。李世民随即命令步军随后，自己亲率骑兵2000追击宗罗喉。李世民的舅舅大将窦轨见他只率少数人马追击，硬拉着他的马缰，叩头苦劝。李世民回答说：“我已经深思熟虑，机不可失，时不再来，今破竹之势，万不可失，请不要再说了！”一剑斩断缰绳，拍马而去，迅速率军进抵折庶城下，控制住泾水南岸，切断了宗罗喉的归路，使其不能与薛仁杲守城军队汇合，从而削弱了秦军的守城兵力。当晚，唐军大队赶到，将折庶城包围。薛仁杲自知不敌，第二天被迫率领将士1万多人投降李世民。
这一仗一扫唐军在浅水原战败的耻辱，极大地提高了李世民的威信。在庆祝胜利的宴会上，诸将向李世民请教胜利的原因，李世民答道：“宗罗喉率领的将士都是陇右之人，特别骁勇凶悍，因此我有意疲惫他们，然后出其不意将其打败。但浅水原一战，打死和俘获的都不多。若行动迟缓，他们就会逃入折庶城中，使守城的兵力加强。若紧急追赶，扼住他们的退路，这样折庶城就空虚了。薛仁杲得知宗罗喉战败，还未来得及谋划，我军已经近逼城下，因而能够一举克城，这就是胜利的原因。”在李世民讨伐薛氏父子的同时，盘踞代北的军阀刘武周乘机勾结突厥贵族，向在山西的唐军发动了进攻，留守晋阳的李元吉逃回长安，刘武周相继占领了李唐集团的发祥地晋阳以及晋州（今山西临汾）、浍州（今山西翼城）等地，使唐朝在黄河东岸的地盘大部分丧失，只剩下晋西南一隅之地，造成了对关中政权的严重威胁。因此，李世民在战败薛仁杲以后，立即挥军进入山西，讨伐刘武周。
武德二年（619）十一月，李世民率领唐军渡过黄河，屯兵柏壁（今山西新绛县西南），与占领浍州的刘军主力宋金刚部对峙。李世民仍然采取坚壁不战的方针，休兵秣马，养精蓄锐，只派少许兵力骚扰敌人的运粮通道。
宋金刚部与唐军对峙五个多月，始终得不到与唐军决战的机会，锐气大挫，而粮饷的运输又受到唐军的严重威胁。武德三年（620）四月，宋金刚粮尽，得不到补给，被迫北撤。
李世民见宋金刚大军北撤，兴奋地对部下说：“养兵千日，用兵一时，消灭宋金刚，在此一举！”立即率大军马不停蹄，人不下鞍，以一昼夜200里的速度追击。激烈的强行军使将士们又累又饿，掉队的数以百计。部下劝李世民暂停追击，让将士稍作休息，等后续部队和粮草到达之后再继续追击。李世民对大家说：“功难成而易败，机难得而易失，宋金刚计穷而走，众心离散，充满了失败情绪，一定要乘这个机会消灭他。”并下令军中：“有再言停留者斩！”经过一天一夜的追击，第二天，唐军终于在吕州（今山西霍县）雀鼠谷追上了宋金刚的部队。李世民指挥唐军一天之内与敌军接战8次，都大获全胜，俘虏和斩首敌军数万人。第三天，唐军在介休城与宋军决战，宋金刚彻底失败，只带领几十名骑兵逃回太原。刘武周见宋金刚惨败而归，十分害怕，被迫与宋金刚投奔突厥，后来俩人都被突厥贵族所杀。
这次战役，李世民不但消灭了刘武周的势力，收复了山西全部失地，还进据代北，扩大了李唐政权在山西的统治区域。更为重要的是，这次战役之后，唐军基本上肃清了关内及其附近地区的割据势力，解除了李唐政权的后顾之忧，为进兵关东奠定了基础。
平定刘武周以后，李世民率军回到长安，经过两个多月的休整，在武德三年（620）三月出关东征。李世民东征的主要对手是军阀王世充和农民军窦建德两大势力。当时的形势是：王世充盘踞河南，窦建德拥有河北，并且都已经建都称帝，王世充国号为郑，以洛阳为都城；窦建德国号为夏，以沼州（今河北永年）为国都。这两大势力如果联合对抗李世民，大局则很难预料。因此，李世民在战略部署上采取了各个击破的方针，决定首先消灭王世充，占领洛阳，然后再进攻窦建德；在战略战术上，则一反过去的战法，由深沟高垒坚壁不战改为强兵攻坚。
七月，李世民率军进至距离洛阳只有70里的新安（今河南新安），并且以步骑5万的优势兵力，迅速夺取了洛阳西线的主要据点慈涧（今河南慈涧），占领慈涧以后，李世民即亲率大军屯于洛阳以北的北邙山，紧逼洛阳，牵制王世充对洛阳外围防线的支援，同时又分兵四路，进攻洛阳的外围防线，完成对洛阳的包围，使王世充处于被动挨打的地位。
在唐军的强大攻势下，洛阳的外围防线被迅速突破，唐军兵临城下，但王世充的守城部队仍然具有很强大的势力。第二年四月，被围困在洛阳的王世充亲率步骑2万出城与唐军决战。李世民首先派大将屈突通率步兵5000人冲击王世充的阵脚，然后亲自率领精锐骑兵杀入敌阵，与屈突通合势力战。双方混战之际，李世民为了摸清敌阵的纵深情况，便带领几十名骑兵冲入敌军阵后，不料被敌军重重包围，在激烈的厮杀中，李世民与跟随的骑兵失去了联系，只有大将丘行恭一人在他身边。在这危机的时刻，李世民仍然镇静自若，近则用剑，远则用弓，使围困他的敌军无法靠近。在激战中，李世民的战马中箭而死，丘行恭将自己的战马让给李世民，自己持长刀步战，俩人一骑一步，拼死冲杀，终于突出重围，与大军会合。这次会战整整持续了一个上午的时间，当时积雪遍地，两军在积雪中拼杀，使白雪都变成了红色。最后，王世充支持不住退回城内。这一次决战，唐军斩杀和俘获敌军7000多人。从此以后，王世充闭门固守，再也不敢出战。
这次决战以后，李世民指挥唐军开始对洛阳城的围攻。但在这时，河北的窦建德突然率领10余万大军南下为王世充解围。使本来有利于唐军的战争形势开始发生了变化，原来，王世充被围以后，曾经多次派人向窦建德求援，企图利用农民军的力量击退李世民，解除唐军对洛阳的包围。对王世充的求援，窦建德先是不加理睬，想坐山观虎斗，让唐军和王世充各自消耗实力，后来看到洛阳危机，王世充有被消灭的危险，窦建德便接受了部下提出的“郑破则夏有齿寒之忧”的建议，亲自率领10余万大军，号称30万，于武德四年（621）三月进抵成皋（今河南汜水）的东原，为王世充解围。
面对这种新的形势，李世民的部下出现了意见分歧。大多数将领认为：王世充据守坚城，一时还难以攻克，窦建德乘势而来，兵锋甚锐，使唐军腹背受敌，主张退守新安。少部分将领则认为：留一部分兵力继续围困洛阳，隔断王世充与窦建德的联系，唐军主力立即赶赴虎牢关，据险抵抗夏军，只要夏军一破，王世充则不攻自破。李世民经过深思熟虑，果断地同意了后一种意见，留弟弟元吉统帅一部分军队继续围困洛阳，自己则亲率大军，迅速开赴虎牢关，抵抗窦建德。五月，唐军主力与夏军在虎牢关附近的汜水展开决战。窦建德的10万余大军被唐军一举击溃，连他本人也被唐军俘虏。汜水决战的胜利也决定了洛阳王世充的败亡，当唐军将窦建德押至洛阳城下时，王世充见大势已去，不得不出城投降。至此，李世民指挥的统一战争取得了决定性的胜利。
李世民从出关到攻下洛阳，共用了10个月的时间，前8个月主要是围攻王世充，后2个月主要是对付窦建德。由于李世民正确地判断了军事形势，衡量了自己的军事实力，毅然扩大了战役范围，终于一举战败了王世充、窦建德两支劲旅，加速了统一关东地区的进程。这次战役，充分显示了李世民的机智果断以及出色的军事胆略和指挥艺术。
李世民从武德元年（618）六月挂帅出征，到武德五年（623）七月胜利班师回朝，历时共4年零1个月。经过4个春秋的艰苦战斗，李世民终于削平群雄，完成了统一大业，为建立统一的中央集权的封建专制主义国家做出了卓越的贡献，成为李唐王朝中无与伦比的特殊功臣。同时，统一战争的实践也使李世民的军事才能得到了极大的提高，迅速地成长为一个杰出的军事指挥家。李世民继位以后，曾经对自己的军事指挥艺术做过总结，他说：“吾自少经略四方，颇知用兵之要，每观敌阵，则知其强弱。常以吾弱当其强，强当其弱，彼乘吾弱，逐奔不过数百十步。吾乘其弱，必出其阵后反击之，无不溃败。所以取胜，多在此也。”尤其值得指出的是，李世民用兵的可贵之处，是身先士卒，用自己奋勇作战的榜样力量来鼓舞士气。每次作战，他都是亲率精骑，冲入敌阵，由于他武艺高强，机智灵活，胆气过人，虽然身经百战，但从来没有被刀箭所伤过，军中将士都叹为神奇。
