976年赵光义继承宋朝皇帝的职位时，当时尚有浙江的吴越和山西的北汉两个独立政权尚未纳入帝国的统治。由于北汉向辽国称臣每年都要向辽国缴纳赋税，来换取辽国的支持对抗宋朝的军队，所以自赵匡胤开始，宋朝一直采取的“先南后北、先易后难”的战略，打算平定南方后，再集中资源，一举攻克北汉兼灭辽国。
赵光义继位时，吴越已是强弩之末，投降只是早几个月，晚几个月的差别，而北汉却如同一根卡在赵光义喉咙里的鱼刺一样，让他不得安睡。
单从实力上来讲，北汉其实并不强大，北汉地瘠民贫，人口本就不多，经过连年战乱，财力更加匮乏，北汉灭亡时登记人口仅剩三万五千二百余户，年17岁以上的男子都被强制征召去打仗了，此时北汉的实力不及盛唐时的八分之一。
说来讽刺，为了谋生存，北汉建立之初就抱着辽国的大腿，连首任君主都要经过辽世宗的册封，一幅“儿皇帝”的做派。
北汉如同辽国钉在宋朝大门上的一颗钉子，只要北汉存在，辽国便可以强行把战区拉到河北平原一带，让大宋的军队处于对辽国骑兵更加有利的作战环境内，偏偏宋朝对此还毫无办法。
因为北汉和辽国联合在了一起，宋朝在面对两国的攻势时如履薄冰：打北汉必然受到辽国攻击，打辽国又会腹背受敌，战局一旦陷入劣势，便会陷入被辽国骑兵追击的困境中，是进也难，退也难。
为了避免这一情况，宋朝的作战策略是以战代守，先出其不意消灭北汉的有生力量，降低北汉的威胁，再转过头来对付辽国。
赵匡胤在位的时候，安国节度使王全斌便靠着这个思路打了北汉一个措手不及，连下北汉、辽国好几州，惹得辽帝耶律璟不得不亲率六万骑兵才稳住局面，击退了宋朝。
此后，北汉的士兵也学精了，他们开始依托城墙和呼叫辽国这个打野救援的方法，跟宋朝打僵持战。
北汉的首都太原城池坚固、易守难攻，宋太祖几次打到太原，还围过城、引过汾水灌城，都因辽国的救援始终没法灭掉北汉。
眼见强攻不行，宋太祖又企图分化挑拨北汉和辽国的关系，他派出使者和辽国商议议和协定，并承诺在两国边界开贸易。
显然，对于辽国而言，比起一个卑微到每个月都要派使臣送供奉、朝见辽国皇帝的北汉小弟，宋太祖的承诺并没有多大吸引力。
谈判崩了，宋太祖在975年平定南唐后，再一次率军北伐，打算收复燕云十六州。但赵匡胤没有料到，当几路大军集结太原城下时，他却突然死去，这种突发状况令他的北伐再一次以失败告终。
977年赵光义接盘后，他派出五个边界官员负责与北方的贸易，打算先稳住和辽国的关系，给他时间完成继承皇位的事情。
978年吴越终于放弃了抵抗，赵光义终于可以集中力量来对付北汉政权，他下令打造兵器、筹集粮草、整顿兵马，只等一切就绪后，一举完成赵匡胤未完成的霸业。
979年，赵光义率大军再一次踏上了北伐的道路，辽国皇帝派出使臣威胁赵光义：你们要给我做出一个合理的解释，并且马上停止进军，不然我就要率兵攻打你们。
早有准备的赵光义并不惧怕辽国的威胁，他派出士兵在地势险峻的白马岭一带狙击辽国援军，然后亲率兵马直捣太原。
白马岭一带山势陡峭，山路崎岖，并不利于骑兵冲击，宋朝军队占据地利优势，完败辽国援军，《宋史·卷四·本纪第四·太宗一》记载：
丁亥，郭进破北汉西龙门砦，禽获甚众。乙未，郭进大破契丹于关南
。
在失去辽国的救援后，单以北汉的实力并不足以对抗赵光义，面对赵光义的数十万大军围城，加上赵光义再决汾水灌城，使得太原城内大水漫膝，北汉在坚持十几天后，终于选择了投降。