隋文帝杨坚继承了北周武帝“包举六合，混同文轨”（《周书·武帝纪下》）的理想，隋朝建立之后，就有了并吞江南之志，并与高熲商派可以带兵平陈的将帅之才。在高熲的推荐下，开皇元年三月，以贺若弼为吴州总管，镇守广陵（今江苏扬州），以韩擒虎为庐州总管，镇守庐江（今安徽合肥），摆开了平陈的架势。九月间，以上柱国长孙览、元景山并为行军元帅，发兵攻陈，并命尚书左仆射高熲节度诸军。正式打出了统一的旗帜。
但在隋朝建立之初，北部的突厥依然是一个严重的威胁。这使得隋朝的统一事业还不能迅速展开。在北周时曾经护送千金公主入突厥，熟悉突厥内情的长孙晟建议隋文帝采取“远交而近攻，离强而合弱”的方针，经过几年的分化工作和军事进攻，到开皇五年，东突厥沙钵略可汗臣附与隋，隋朝的北顾之忧得以解除。
在解决突厥威胁的同时，隋朝并未放弃灭陈的准备工作。开皇七年（587），隋朝利用江陵（今属湖北）后梁政权内部的贵族势力倒向陈的时机，以陈纳叛为词，下令废其国，消灭了这个自北周以来就成为傀儡的政权，拉开了正式伐陈的序幕。八年二月，陈人又出兵硖州（今安徽凤台县西北），这促使隋文帝决定发兵讨陈。十月，正式下诏伐陈。诏书抄写了三十万通，在江南广泛散发。接着，命晋王杨广、秦王杨俊、清河公杨素为行军元帅，率领九十个总管，大军五十一万八千，兵分八路，从巴蜀到东海之滨沿长江数千里的战线上，向陈发起总攻。诸军皆受晋王杨广节度，又以高熲为晋王元帅长史，主持军中事务。十二月，杨素率舟师出三峡，乘夜偷袭陈守卫长江险要的水军，顺流而下，直抵达汉口。其他各路大军也都先后兵临长江。形势不断沿着隋朝方面的部署向前发展。《资治通鉴》记载，开皇九年正月初一，陈后主朝会群臣时，“大雾四塞，入人鼻，皆辛酸”，于是出现了陈后主昏迷不醒的情况，而且采石守军皆醉，颇疑当日隋军采取了毒气战。贺若弼利用敌人的麻痹心理，自广陵引兵渡江，陈兵竟然没有发现。韩擒虎将五百人夜渡长江，守者皆醉，顺利地占领了采石矶。
当建康朝廷对于面对隋军的进攻应该采取何种行动久议不决的时候，贺若弼已于正月七日攻克京口（今江苏镇江），进据钟山。韩擒虎也已经率军屯驻到了建康城外的新林。一向怯懦的陈后主吓得日夜啼泣，建康朝廷陷入了一片慌乱之中。十二日，贺若弼率领八千甲士大败陈军，俘陈将萧摩诃；韩擒虎自新林向建康城内进军，在归降的陈将任忠的带领下，领兵直入朱雀门，进至宫廷所在的台城。陈后主在感叹了一番“非唯朕无德，亦是江东衣冠道尽”之后，不顾群臣的谏阻，带着张贵妃、孔贵傧仓皇逃入后宫景阳殿的枯井之中，随即被隋军俘获。陈朝至此宣告灭亡。
陈后主被俘后，陈的一些地方官还有据城抵抗的，但很快都被讨平。杨广还让陈后主致书于在岭南割据自保的冼夫人，使得岭南诸州也很快接受了隋朝的统治。陈的统治区域全部纳入隋朝的版图，得州三十，郡一百，县四百。第二年，江南还爆发了大规模的反隋暴动，各地酋豪对于隋朝的斗争几遍及旧陈全境。尽管这些暴动都被迅速压服，但它说明了隋朝在南方的统治不可能在短时间内就完全巩固。
隋朝灭陈，结束了近三百年的分裂局面。这是隋朝在中国历史上的伟大贡献。这样一种统一的格局，是由南北朝以来的历史进程所决定了的，同时，也是当时双方力量对比的必然结果。天下统一了，但巩固统一的任务还远远没有完成。随之而来的，是进一步加强对包括江南在内的地方的控制，而统治集团内部争夺皇位的斗争，也因杨广平陈的大功而日渐激化。
22
隋炀帝杨广不仅在做晋王时为统一做出了重大贡献，在做皇帝以后，巩固统一的意识也非常强烈。营建东都、开凿运河、修筑长城、修建通往边疆地区的驰道、设立河西四郡等，都贯穿着巩固统一多民族国家的意识。
隋炀帝的此种努力是建立在隋朝强盛国力基础上的。从隋文帝统治初期开始，隋朝的国力就在迅速增长。平陈后，隋文帝进行了府兵制度的改革，将原来兵农分离的职业兵，改变为兵农合一的义务兵制度，军人都在州县入籍，其家庭应负担的赋税、兵役义务，和其他编户一样，都登记在户籍和计帐上，军人本身则仍受军府的统辖。在府兵制最终完成向兵农合一转化的同时，国家掌握的纳税户口也极大地增加。军事力量的加强和纳税户口的增加同步实现，这是隋朝国力强盛的重要原因。
隋朝初年国家控制的户口迅速增加。开皇九年（589）全国统一时，为700万户左右，到隋文帝末年（604），超过了890万户，十五年间增加了近200万户。这样的速度，不会完全是人口的自然增殖，主要是大量的隐瞒户口被检括出来。由于著籍户口的大量增加，国家的财政储备急剧上升。加上隋文帝注意节俭，官僚机构也不是很庞大，兵农合一的府兵制下，国家又不用支付养兵之费，所以到隋文帝统治的中期，府库里已经积累了大量的财富。国家控制了大量的著籍户口，还等于拥有了用之不尽的进行大规模工程建设的劳动力。隋炀帝即位后，局面稍稳，立即下令“除妇人及奴婢、部曲之课”，并将男子成丁年龄由此前的二十一岁提高到二十二岁，其前提是“是时户口益多，府库赢溢”（《隋书·食货志》）。所以他在即位之初就开始了大规模的建设。
604年十一月，隋炀帝下诏征发丁男数十万，在洛阳的外围四周开挖一条长堑，自龙门（今山西河津）东接长平（今山西晋城西北）、汲郡（今河南淇县），渡黄河至浚仪（今河南开封）、襄城（今河南临汝），达于上洛（今陕西商县），作为洛阳的屏障，以弥补洛阳没有关河之险的缺陷，工程全线几千里。十几天后，正式下诏营建东京。四个月后，于大业元年（605）三月下诏正式开工营建东京，仅仅用了不到一年的时间，就建成了一个东方大都会。动用的劳动力是“每月役丁二百万”。目的是为了加强对全国的控御，尤其是加强对还有着割据倾向的北齐旧境的威慑。毕竟洛阳比之长安更有居天下之中的意义和作用，而且在关东地区，是长期与西部政权对峙的北齐旧境，颠覆统一政权的危险还明显存在着。
就在下令开工营建东京的第二天，隋炀帝又颁布了“巡历淮、海，观省风俗”的诏令，紧接着便征发河南、淮北诸郡百姓，开凿通济渠，自东京西苑引谷水、洛水入黄河，进而沟通黄河与淮河流域。这项工程征发的民工，“前后百余万”。又发淮南民十余万开邗沟，修建沟通淮河与长江的水运工程。与此同时，在长安至江都（今扬州）间修筑了四十余所离宫别馆。这些工程，从大业元年三月底开始，到七月底就全部完成。尽管《资治通鉴》记载，在开凿运河和修造龙舟和各种船只的过程中，“东京官吏督役严急，役丁死者什四五，所司以车载死丁，东至城皋，北至河阳，相望于道”，但政府修建大工程的能力还是明显地很强大。八月十五日，隋炀帝乘龙舟从洛阳出发，通过运河前往江都。仅仅挽船的人力就达到十八万余人。
大业三年，炀帝北巡。期间，“发河北十余郡丁男凿太行山，达于并州，以通驰道”。又下诏征发丁男百余万筑长城，西距榆林，东至紫河，绵亘千余里。由于工程浩大，工期紧急，“筑之二旬而毕”（《资治通鉴》卷180），所以如《隋书·食货志》所说，“死者太半”。他北巡的队伍本身就是隋朝国威的一个极好显示，“时天下承平，百物丰实，甲士五十余万，马十万匹，旌旗辎重，千里不绝”，以启民可汗为首的北蕃酋长们，无不为之叹服。
大业四年，征发河北诸郡男女百余万开永济渠，引沁水南达于河，北通涿郡，全线二千余里。永济渠的工程量更加浩大，大抵到大业六七年间完工。大业六年，又开凿江南河，自京口至余杭，八百余里。大业七年二月，隋炀帝从江都乘龙舟北上涿郡，开始经营攻打辽东。永济渠的开通，将经济最发达的河北地区纳入了运河体系，为加强隋朝的经济力量和政治上的控御力，起到了很大的作用。
大业五年，隋炀帝西巡河右。这是在经略高丽之前的一次大规模政治出巡和军事预演。隋炀帝亲征吐谷浑，使今青海境内的大部分地区归于隋王朝的版图之中，并因此加强了对丝绸之路的控制。期间，隋炀帝还在燕支山（今山丹大黄山）会见高昌王鞠伯雅、伊吾吐屯设及西域二十七国使者，吐屯设献西域数千里之地，隋炀帝因此设置河西四郡，丝绸之路全面开通。
隋炀帝在位期间，为统一多民族国家的形成和巩固，进行了积极的努力。但是，他的这些紧锣密鼓的举措，超出了社会的承受力。隋朝的动荡，在隋炀帝征辽与高丽的战争开始之后，很快就起来了。
23
杨坚代周，标志着一个时代的结束，尤其是灭陈统一南北后，摆在隋朝统治者面前的，是一个全新的局面。隋朝是一个短命的王朝，但由于它处在中国历史大转折的时期，隋代二帝的一系列措施，都具有了为巩固中央集权和统一多民族国家而努力的改革意义。由于隋朝二帝的改革，中国古代的中央集权体制有了重大发展。
在魏晋南北朝以来中央集权化不断加强的基础上，隋文帝开皇三年（683），在北齐已经出现的“敕用州主簿、敕用郡功曹”（即通过卖官收回中央对地方佐官任命权）做法的基础上，从制度上取消州郡长官自辟僚属的权力，规定地方佐官一律由中央任免，并改革地方行政体制，由州郡县三级制改为州县两级制。与此同时，在选官原则上接受