在经过数百年的大分裂时代后，中国人又开始走向它的正常轨道——大一统的皇朝。
在南北朝后期，三个主要政权同时存在，即北周、突厥和陈朝。
隋文帝杨坚在隋开皇元年（581年）九月到十一年（590年）春，进行了北攻突厥、南灭陈朝及平定江南的统一战争。
一、北攻突厥
北周大定元年（581年）二月时，北周被手握北周政权的丞相杨坚推翻，并创建隋朝，杨坚被立为隋文帝。那个时候隋朝的疆域是东到沿海、西达四川、南抵长江、北临长城的广大区域。拥有1100多个县、2900多万人口，封建经济和文化都比较发达。杨坚进行的一系列改革，就是为了增强国力和军力以统一中国。
这个时候，崛起于6世纪中期的游牧奴隶社会的北方突厥，到了沙钵略可汗的时候，已经拥有了东至兴安岭、西达黑海、南抵长城、北临贝加尔湖的广大区域，拥有骑兵几十万。由于隋王朝不再给他们献礼以及和亲，他们便以此为借口不停的举兵南犯，打击隋王朝的统治。而那时的突厥内部有4个可汗，且各自都重兵在握，沙钵略与阿波、达头等可汗之间有矛盾，在客观上造成了隋朝击退突厥的有利条件。
此时，江南陈朝的后主陈叔宝还控制着长江以南、西陵峡以东至东南沿海的400多个县和200多万人口。这时的陈朝政治腐败，朝野上下相互猜忌，政府财政空虚，国家刑法残酷，人民的赋税繁重、怨声载道，而后主叔宝却沉迷酒色，戒备松散，仅仅依靠长江来阻挡隋军的进攻。
隋文帝杨坚
杨坚原本打算先灭陈朝后，再攻突厥。为了防御突厥侵扰、巩固北防，在隋朝北部边境上增修亭障、加固长城，并派遣上柱国阴寿镇守幽州（今北京城西南），京兆尹虞庆则镇守并州（今太原西南），并在边防准备数万兵力。
隋开皇元年（581年）三月，隋文帝开始为灭陈朝作准备，即调遣大将贺若弼、韩擒虎分别担任吴州总管和庐州总管，镇守长江以北的险要之地广陵（今江苏扬州西北）和庐江（今合肥）。九月，陈朝的大将周罗喉攻占隋朝长江以北的胡墅（今江苏六合西南）。杨坚派尚书左仆射高颎和节度行军元帅长孙览、元景山率军讨伐陈朝。
就在这个时候，突厥的沙钵略可汗以替身为北周公主的妻子复仇为借口，与原北齐的营州刺史高宝宁联手，在十二月攻占临榆镇（今河北抚宁东，另一说今山海关）。还联络了其他各部落，准备大举进攻隋朝。杨坚依据隋朝才刚刚建立，边防还不牢固，国力还不够强大等实际情况，决定改变原来的计划，改为先打退突厥再灭陈朝的战略。
隋开皇二年（582年）春天，隋文帝调整部署，在并州设河北道行台尚书省，晋王杨广任尚书令；在洛阳（今洛阳城东）设河南道行台尚书省，秦王杨俊任尚书令；在益州（治今成都）设西南道行台尚书省，蜀王杨秀任尚书令。同时不停地调兵遣将以加强北方各要地的防备，用来抵御突厥的进攻。隋军在元景山部击败陈朝将领陆纶的水军，占领损口（今湖北汉川东北损水入汉江之口）和沌阳（今湖北汉阳东），陈朝只好返回胡墅，并派使臣前去讲和，高颎撤军与陈朝讲和，作攻打突厥的准备。
隋文帝利用突厥的内部矛盾，并采纳了奉车都尉长孙晟“远交而近攻，离强而合弱”的战略。为了分削沙钵略的力量，出使西面的达头可汗和东面的处罗侯（沙钵略的弟弟）的使臣被先后派出，与他们拉好关系。五月，沙钵略率40万大军突入长城，分路攻击隋朝在北方的要地。隋军企图在马邑（今山西朔县）和可洛峐（今甘肃武威东南）打败突厥军，但是没有成功。十二月，突厥大军深入到金城（今兰州）、上郡（今陕西富县）、天水（今属甘肃）、武威（今属甘肃）、弘化（今甘肃庆阳）、延安（今延安东北）等地，大肆掠夺牲畜和财物等。在周桨（今甘肃庆阳南）的战斗中隋军顽强抵抗沙钵略主力以后，突厥达头可汗不想再继续向南进攻，带领自己的军队走了。长孙晟乘此机会通过沙钵略的侄子染干泄露一条假消息给沙钵略：铁勒等要谋反，要来袭击他的营帐。沙钵略害怕他的后方会发生变动，立即撤兵往北返回。这样为隋朝历经3年的防御工程争取到了时间，反攻准备大体上已完成；而突厥则因隋朝的分化和离间策略，使其内部矛盾深化，再加上严重的灾荒，形势对他越来越不利。
隋开皇三年（583年）的春天，沙钵略又率领各可汗兵在南边侵扰隋朝。四月上旬，杨坚下诏“清边制胜”，任命卫王杨爽等为行军元帅，率领20万隋军主力分道反击突厥，从根本上打退突厥，以稳固北防。隋军先后在白道（今内蒙古呼和浩特西北）、高越原（今甘肃武威北）、灵州（今宁夏灵武西南）、和龙（今辽宁朝阳）等地各个击破突厥各部，并借机说服阿波可汗归降隋朝，促进了突厥内乱，使得沙钵略与阿波等相互攻打不停。第二年春天，达头可汗归降隋朝。到了秋天，沙钵略由于多次败于隋军以及阿波军的不停攻击，只好向隋朝求和称藩。隋军反过来攻打突厥而取得了胜利，北部边患基本消除，使得南下灭陈没有了后顾之忧。
二、南灭陈朝
隋文帝开始加紧准备灭陈。在其统治下，仍然实行均田制和租调力役制，中央建三省六部制，地方行州、县制，改革府兵制等措施。这些措施有利于发展社会经济、加强中央集权和提高军队战斗力。隋朝经过几年励精图治变得更加强大。
隋开皇五年（585年）十月，隋文帝任命清河公杨素为行军总管。同时在585—587年这3年内，动员了几十万人修建朔方（今内蒙古乌审旗南白城子）和灵武（今宁夏灵武西南）一带的长城。为了加固北部的边防，隋朝又在朔方以东边疆的险要之处修筑了几十道长城，确保南下灭陈朝时后方的安全。
杨素和贺若弼等也争相向隋文帝进献消灭陈朝策略，杨坚都采纳了。在攻打陈朝之前，为了加强水师的力量，隋文帝命介州刺史李衍在襄州道、杨素在巴东郡（今四川奉节东）建造“五牙”、“黄龙”等战船。贺若弼将老马卖掉，大批购买陈人的船，并将其藏起来，又买了五六十艘破旧的船停在小河边，用来迷惑陈军，使他们认为隋军没有战舰。同时，数次让部分士兵聚集在广陵，大张旗帜，营幕遍野，沿江打猎，人马喧噪，这些也是为了迷惑陈军，使他们疏于防备。
杨素
隋开皇八年（588年）三月，隋文帝下诏，列举陈后主陈叔宝罪行20条，并将此诏书在江南散发30万份，以争取人心。十月，杨坚在寿春（今安徽寿县）设淮南行台省，晋王杨广任行台尚书令，主要负责消灭陈朝的事宜。命杨广、杨俊、杨素同任行军元帅，高颎任晋王元帅长史，右仆射王韶任司马，集合水陆两军共计51．8万，由杨广统一节度，东到大海，西至巴、蜀，水陆两军遍布几千里。隋陆军在长江上游至下游分为8路进攻陈朝：杨素率水军主力，从巴东郡顺流东下，灭掉陈朝在长江上及沿岸的水陆军；杨俊率上游3路攻打江夏（今武昌），以截控长江，防止上游的陈军从东支援；杨广率下游5路，渡江攻打陈朝都城建康。十一月，隋文帝到定城（今陕西华阴东）誓师，准备渡江的各路隋军进抵长江北岸，完成进攻准备。
陈后主骄奢淫逸，政治腐败，自己不懂军事，又不采纳部将的建议，仅凭长江这一天然屏障，而疏于防务。为了庆祝春节，竟然要镇守长江重镇江州（治今江西九江）和南徐州（治今江苏镇江）的两个儿子率战船回建康，致使江防更加薄弱。
隋开皇八年（588年）十二月，在长江上游隋军开始发起进攻。杨俊率水陆军10多万从襄阳（今属湖北）进入屯汉口（今湖北汉水入长江之口）。陈将周罗喉和郢州刺史荀法尚的几万人，据守江夏，与杨俊的军队对峙了一个多月。此时隋行军总管周法尚率水军3万到樊口（今湖北鄂州西），打败对抗的陈军。杨素率水军从巴东沿三峡往东行进，荆州刺史刘仁恩的陆军自江陵西上，水陆两军相配合，突袭并占领了狼尾滩（今湖北宜昌西北），陈守将戚昕被击败；又在第二年正月，攻破西陵峡口各个要地，击败陈朝南康内史吕忠肃的军队，继续顺江而下。据守公安（今湖北公安西北）的陈朝荆州刺史陈慧纪，见已经快没有希望了，便率军3万、1000艘船只，沿长江往东走，想去支援建康，被杨俊的军队拦截在汉口以西。杨素的主力军顺江东下，与杨俊的军队在汉口会师，又派一支部队南下湘州（今湖南长沙），去擒拿陈朝岳阳王陈叔慎。
刘仁恩
隋开皇九年（589年）正月初一，杨素率领长江下游的隋军乘陈朝欢度春节之际，分路渡江。贺若弼率军从广陵南渡，韩擒虎率军从庐江经横江口（今安徽和县东南）夜渡，袭击采石（今安徽马鞍山市西南），杨广率军从六合（今属江苏）进驻桃叶山（今六合东南）。到正月初四时，陈后主发现事态严重，下诏亲自率领陈军抗敌。任命骠骑将军萧摩诃、护军将军樊毅以及中领军鲁广达同为都督；又派南豫州刺史樊猛率水师坚守白下（今南京城北金川门外），抵抗六合方面的隋军；任命散骑常侍皋文奏率军据守南豫州（今安徽当涂）。隋军突破陈军的长江防线后迅速推进，正月初六，贺若弼率军攻占京口（今江苏镇江），南徐州刺史黄恪被俘。被俘的6000多人，都被优待释放了。
随后贺若弼派一队进驻曲阿（今江苏丹阳），防止三吴（今江苏太湖以东、以南和浙江绍兴等）的陈军来增援，亲自率主力往西行进；韩擒虎率军在正月初七攻占了姑熟，沿长江往东行进，皋文奏的军队战败退出建康。贺若弼、韩擒虎两军从南、北两路夹击建康。陈后主放弃钟山（今南京紫金山）和石头（今南京城西清凉山），命令众军队驻扎在都城内外。正月十五日，陈朝镇东大将军任忠率军从吴兴（今浙江湖州南）来增援建康，驻守在朱雀门（建康城南门）。
正月十七日，贺若弼率军进据钟山，而驻扎在山南白土冈东，渡江攻占南陵（今安徽贵池西南）的隋总管杜彦与韩擒虎两军合并，共有步骑2万，进驻新林（今南京西南）。隋行军总管宇文述率军3万渡江，攻占石头。到此为止，隋军对建康形成包围之势。这个时候，为了协助隋军主力的进攻，隋蕲州刺史王世积率军，从蕲春（今湖北蕲春北）攻打蕲口（今蕲春西南），陈朝大将纪填大败；隋青州总管燕荣率水师从东海（今江苏连云港西南）沿海南下，前往太湖。陈叔宝面对隋军攻势一意孤行不采纳部将建议，导致建康周围的10多万陈军毫无作用。正月二十日，陈军仓促应战，在白土冈南北列阵20里，前面和后面的军队都互相不知道是进还是退。贺若弼率军，强攻陈军的薄弱部分，致使陈军全线崩溃。同一时间，韩擒虎率军进入石子冈（今南京雨花台），陈将任忠投降迎接，带韩擒虎的军队从朱雀门进入建康，陈后主被俘。当天晚上，贺若弼率军自北门入城。二十二日初，杨广到达建康，要求陈叔宝下诏书，命周罗喉、陈慧纪等投降。正月二十九日，隋文帝下诏派使节到陈朝各州郡的守将。正月二月，吴州（治今江苏苏州）等地守将拒绝投降，被宇文述、燕荣军击败。岭南有几个郡都侍奉高凉（今广东阳江西），高凉的主人冼夫人，保境拒守。隋文帝派柱国韦沈等前去安抚，这样，岭南各州都归降了隋朝。至此，自东晋十六国以来270多年南北分裂的局面结束了，完成了隋王朝的统一大业。
三、平定江南
隋统一中国后，南方士族豪强不满隋实行的限制政策，就利用隋想移民关中的流言，趁机煽动民众叛变隋朝。
隋开皇十年（590年）十一月，婺州（治今浙江金华）的汪文进、越州（治今浙江绍兴）的高智慧以及苏州沈玄侩等举兵反隋，自称天子，设置百官。蒋山（今南京钟山）的李忮、乐安（今浙江仙居西）的蔡道人、温州的沈孝彻以及泉州（治今福州）的王国庆等，都自称大都督，举兵攻打各州县，反军基本上遍及原来陈朝的领地。规模大的有几万人，规模小的也有几千人，相互呼应，杀害隋朝官吏。
隋文帝任命内史令杨素为行军总管率军平反叛乱。杨素军从杨子津（今江苏扬州南）渡江，首先在京口（今江苏镇江）打败叛军朱莫问，接着击败晋陵（今江苏常州）的顾世兴和无锡的叶略。这时叛军沈玄侩等正围攻苏州，隋刺史皇甫绩连连失利，杨素率军赶到后，把叛军击败，沈玄侩被俘。叛军高智慧率军据守浙江（今钱塘江）东岸的营垒，方圆百里，1000艘船舰，把江面都遮住了，击鼓前进。杨素听取了总管来护儿的建议，并命来护儿率几百艘轻型战船，偷渡浙江，以出奇不意之势突袭高智慧军队，并焚烧高智慧的后方营垒，致使高智慧慌恐不安，杨素则乘此机会率军从正面突击，高军大败。
不久，杨素派史万岁率军2000进攻婺州，自己率主力走海路追击逃到海上的高智慧，直趋温州。史万岁率军平定蔡道人和汪文进，翻山渡海，转战1000多里，经历700多次战斗，击退无数叛军。杨素率军在温州击败沈孝彻后，便自陆路转向天台和临海（今属浙江），继续追击叛军的散兵，叛军高智慧退守闽、越。叛军王国庆逃跑，他们有的逃到海岛，有的逃至溪洞。杨素分派各将领，分水路和陆路进行追捕，并密秘派人劝王国庆将高智慧擒来，可以将功补过。于是王国庆擒获高智慧，送交隋军，杨素将高智慧斩首，其余叛军全部投降。江南随即安定下来。
