动权也归中央，使得“兵无常帅，帅无常师”。接着，他又实行了“内外相制”的策略，各地行政长官由朝廷委派，大大削弱了藩镇的实力和实权（包括兵权、政权和财权）。通过这些措施，新建立的北宋王朝开始稳定下来。
这样一来，宋朝的确成功地解决了藩镇割据问题，为宋王朝的长治久安打下坚实的基础，这是中国传统社会发展到一定历史阶段在政治上走向成熟的又一个重要标志。但由于对兵权问题的高度重视，在集中兵权与整顿军队后，军权完全集中到了皇帝手中，但同时也造成了兵不知将，将不知兵，军队作战要依皇帝钦定作战方案来进行等等一系列弊端。在后来宋军对辽、西夏的作战中，兵权高度集中的弊端显现出来，使得宋军屡遭败绩，形成了积弱局面。这又是赵匡胤、赵普当初在定计安天下时所始料不及的。
统一南方
962年，割据湖南的周行逢病死了，他的儿子周保权继位。大将张文表不服周保权，起兵反抗，割据潭州（今湖南长沙）。周保权派人向来朝求援。宋朝出兵湖南，一举占领了南平，平定了湖南。赵匡胤又着手进兵后蜀。
967年11月，宋太祖赵匡胤命忠武节度使王全斌率军六万向蜀地进攻，并命工匠在汴梁为蜀主孟昶起造住宅，谕令将士：“行军所至，不得焚荡庐舍，驱逐吏民，开发邱坟，剪伐桑朽，凡克城寨，不可滥杀俘虏，乱抢财物。”这月汴梁大雪，宋太祖在讲武堂设坛帐，衣紫貂裘帽视事，忽对左右说：“我被服如此体尚觉寒，念西征将士，冲犯霜霰，何以堪此？”即解下紫貂裘帽，遣太监飞骑赶往蜀地赐给王全斌，且传谕全军，以不能遍赏为憾事。于是宋军人人奋勇，十四万守成都的蜀兵竟不战而溃。
灭蜀之后，有人将后蜀皇帝孟昶用七彩宝石装饰的夜壶送给赵匡胤。赵匡胤很生气地将壶摔碎了。
登了大宝的赵匡胤见了这个“宝壶”，不是爱不释手，而是“大摔出手”，说明他没有忘记过去。赵匡胤起身于下层行伍，跟随周世宗多次南征北战、屡立战功，穿的用的也都很节俭。正如他为君后常把布衣等物赐给左右近侍说的那样“朕过去就穿这些”。
宋太祖这一摔，也说明他懂得奢侈腐化必然亡国的道理。他经历了五代十国的动荡局面，深知历代因奢侈腐化而亡国的教训。在他看来，即使把夜壶装饰得再好，也不过是一个便器。实际上，平民百姓家多用瓦尿罐，富贵人家多用铜尿盆，帝王之家多用银夜壶甚至金夜壶，而孟昶一个小国之君，竟用七宝夜壶，实在没有必要。难怪赵匡胤说：“用七彩宝石装饰夜壶，那该用什么东西盛粮食，像孟昶这样腐化，不亡国才怪呢！”孟昶的生活十分奢侈，就连他的一个宠妃使用的痰盂都是金装水晶石做的。享乐到如此地步，岂有不亡国的。
宋太祖这一摔，还说明他要以身作则，倡导节俭风。赵匡胤身为天子，富有四海，但却力行节俭，从不讲排场，比阔气。寝殿中的苇帘都是用青布包边，宫中闱幕也没有花纹作装饰，乘坐的肩舆也不用黄金装饰。赵匡胤说：“我大宋富有四海，用金银装饰金殿也能办到，但我是为天下人掌管钱财，怎能随便乱用。”赵匡胤就连日常衣服也是洗过多次再穿。961年2月，他下令文武百官及百姓在皇帝诞生日及各种节日。不准上贡物送贺礼。
宋太祖的弟弟赵光义（即宋太宗）看到哥哥当了皇帝还十分俭约，便说：“陛下服用太俭朴了。”宋太祖说：“你别忘了咱家在洛阳夹马营的艰苦日子呀。”
宋太祖不仅自己身体力行，还带头约束家人不能奢华。972年7月，宋太祖之女永庆公主下嫁后回家省亲，穿了一件贴绣铺翠的短袄入宫。宋太祖看了，很不高兴，说：“以后穿戴不要如此华丽。”公主不以为然，笑了笑说：“用不了许多钱。”宋太祖严肃地说：“不对，你当公主的，穿这样贵重的衣服，别人就会模仿。这样一来，京城里的高档服装。就会涨价；价格一涨。商贩就会贩卖，结果只会伤害百姓。你生长富贵之家，要珍惜富贵的日子，岂可开坏风气的头？”永庆公主听了十分惭愧。
又有一次，永庆公主与其母（皇后）对宋太祖说：“皇上的车轿该用黄金装饰。”宋太祖笑着说：“朕富有天下，甭说用黄金装饰车轿，就是用黄金装修房屋也能办到。不过，想到朕是为天下百姓守财，就不能这么干呀！古人讲：以一人治天下，不以天下奉一人。如果让天下百姓都为朕一人服务，百姓们如何活命呢？”
宋太祖本来很喜欢射猎和踢球（当时称“蹴鞠”），刚做皇帝那阵，他还常常技痒难忍，不时邀手下的人玩上几次。这些游戏对宋太祖来说自然属于忙里偷闲，但有时玩到兴头，难免误事。一次，他正在后苑射鸟，忽然有大臣口称急事求见。可他接过奏章一看，里面说的并不是马上要办的事，不由得有些恼火，当即训斥了几句。那大臣却说：“这些事虽不是很急，但总比射鸟急吧。”他愈加恼怒，随手抄起一把玉斧，朝那人撞去，一失手，撞掉了两颗牙齿。那人也不作声，跪在地上，将牙齿捡起来装在衣服里。宋太祖问：“你想拿这个来控告我吗？”那大臣说：“不敢！不过陛下既为天子，一言一行自然会由史官记录在案的。”这话算是说到点子上了，逼得宋太祖不得不赶紧地表示道歉。通过这件事，使宋太祖认识到“吾为天下主”，一言一行至关重要，“畋游”（即射猎）、“蹴鞠”终究不是“正经事”，以后慢慢地就将这些嗜好戒除了。
970年，宋太祖命令大将潘美带领大军征讨南汉。南汉建都广州，占有现在的广东和广西南部。南汉国王没有办法逃跑，就放火焚烧府库宫殿，出城投降了。
南唐是“十国”中最大的一个割据政权，那里土地肥沃，没有像中原那样遭到战争的破坏，所以经济繁荣，国力富裕。但是，南唐的国主都是政治上十分昏庸无能的人，后来弄得国力渐渐衰弱下来。
最后的一个国主李煜，史称南唐后主，是一个著名的词人，对诗词、音乐、书画，十分精通，可就是不懂得处理国事。北宋建国后，李煜每年向北宋进贡大量金银财宝，想维持他的地位。后来，他看到宋太祖接连消灭了周围三个小国，才着慌起来，赶快派使者给宋太祖送去一封信，表示愿意取消南唐国号，自己改称“江南国主”。但是这一点小小让步，怎么能改变宋太祖统一中国的决心呢？
公元974年9月，宋太祖派大将曹彬、潘美带领十万大军分水陆两路攻打南唐。曹彬从荆南带领水军沿江东下，很快就占领了池州（今安徽贵池），进驻采石矶（今安徽马鞍山市）。潘美带领的步兵到了江北，被辽阔的江面挡住了进军的道路。
有人向宋军献计，如果用竹筏和大船搭成浮桥，步兵就可以全部顺利过江。潘美听了这个计策，马上赶造浮桥。这个消息传到南唐的国都金陵，南唐君臣正在喝酒。李后主问周围大臣该怎么办？大臣说：“自古以来，没听说搭浮桥过江的，一定办不成！”后主听了，哈哈大笑说：“我早说他们是小孩子闹着玩罢了。”
过了三天，宋军搭好浮桥，潘美的步兵像在陆地上行军一样，跨过长江。南唐的守将败的败，投降的投降。十万宋军很快就打到金陵城边。
那时候，李后主还正在宫里跟一批和尚道士诵经讲道，宋军到了城外，他还蒙在鼓里呢。有一天，他到城头上巡视，发现城外到处飘扬着宋军旗帜，这才大吃一惊，回宫以后，派大臣徐铉到东京去求和。
徐铉见了宋太祖说：“李煜待陛下，就像儿子待父亲一样孝顺，为什么还要讨伐他？”宋太祖反问说：“那么你倒说说，父亲和儿子能分成两家吗？”徐铉没话说，回到金陵向李后主回报。过了一个月，宋军围城越来越紧，李后主又派徐铉到东京去。
徐铉苦苦恳求宋太祖不要进攻金陵，宋太祖听得不耐烦，一手按住利剑，怒气冲冲地说：“你不要多说了。李煜并没有什么罪，但是现在天下一家，我的床边，怎么能让别人睡着打呼噜呢！”
徐铉眼看再恳求也没用，只好再回到金陵。李后主听了回报，知道求和没有希望，连忙调动驻守上江的十五万大军来救。刚到皖口，就受到宋军两路夹攻。南唐军放火烧宋军。哪知正碰到刮北风，火反烧了自己。南唐全军覆没。
第二天，都城被攻破了。曹彬率领宋军整队进城，秩序井然。李后主叫人在宫里堆了柴草，准备放火自杀，但是毕竟没有这个勇气。最后还是带着大臣出宫门，向曹彬投降。
李后主被押到东京，宋太祖对他还比较优待。但是李后主从一个尽情享乐的国君变成一个亡国的俘虏，心里十分辛酸，每天流着眼泪过日子。他本来是写词的能手，在这段时期里，写了一些感情忧伤的词。“问君能有几多愁，恰似一江春水向东流。”就是他这段时期词作中的名句。
灭南唐是宋太祖统一南方的最后一仗，也是当时最大的一次江河作战。这次战争中的“浮桥渡江”、“围城打援”，是宋太祖战略部署中的得意之举，也是古代战争史上的创举。
占据现在浙江、江苏一带的吴越国主钱俶不断向宋朝进贡。南唐灭亡以后，宋太祖让钱俶到开封来，钱俶连忙去朝见。过了两个月，钱俶要回杭州了。就在他动身的时候，赵匡胤送给他一个黄包袱。钱俶打开一看，里面都是宋朝大臣请求赵匡胤扣留他的奏疏。他非常恐惧，回国后又派人送去大批财物。
到了宋太宗的时候，钱俶又去开封朝见，被宋太宗扣留下来，被迫献出了全部土地。当时，只剩下留从效割据泉、漳等州。留从效死后，部将陈洪进夺取兵权，他派人