五代十国时，政权更迭频繁。公元979年，宋太宗亲征北汉，北汉灭亡。北汉将领杨业也随北汉降宋。杨业本名叫杨崇贵，他年少时很受刘崇的看重，刘崇以其为养孙，改名为刘继业。刘继业先担任保卫指挥使，以骁勇着称，以功陞迁到建雄军节度使。由于刘继业战功卓着，所向无敌，国人号称无敌。然而刘继业在北汉30多年的战绩却湮没在茫茫的历史长河中，《宋史》和《辽史》均缺乏这方面的记载，《宋史》中提到宋军几次与刘继业的交锋，全是以刘继业的失败而告终。在《续资治通鉴》中，仅仅提到刘继业在太原城头苦战防守，甚至北汉主刘继元投降以后，还在坚持战斗，直到宋太宗派刘继元亲自招降，刘继业才大哭解甲归降。同时期的《九国志》曾经记载过刘继业的功绩，但是遗憾的是其中关于这段历史的记载没有流传到今天。《辽史》中有辽将耶律斜轸责问杨业说：汝与我国角胜三十馀年，今日何面目相见。可见刘继业在北汉时期主要的对手是辽国。虽然北汉一直臣事辽国，但是处于强势的辽国经常侵掠北汉的边境，刘继业为北汉守边，估计经常与来犯的辽军交锋，虽然规模不大，但三十馀年未处下风，这样的经历让刘继业积累了边防的丰富经验。
宋太宗素知刘继业威名，授予他左领军大将军、郑州防御使。刘继业归宋以后，复本姓杨，单名业。后来，杨业因功升云州观察使。以后辽国望见杨业的旌旗，就不战而走。守边的主将忌杨业威名，屡次向宋太宗上书，诽谤杨业。宋太宗封其奏交给杨业，以表示对杨业的信任。雍熙三年，宋太宗派出三路大军征讨辽国，其中潘美为西路军主将，杨业为副将。起初各路进展顺利，杨业一路夺取了辽国的寰、朔、云、应四州，但主力军中路曹彬失利。宋太宗命令各路人马班师，后又命潘美等率领大军将收复四州的民众迁移到内地。此时，辽萧太后又领兵十万夺回寰州。杨业爱民，认为当务之急在于护送四州人民迁移。现辽已大兵压境，应避免与之正面冲突。监军王诜不懂军事，反而斥责杨业贪生怕死。
最后杨业力争不果，只能冒险出击，他和潘美做了约定，在陈家谷口埋伏人马，万一兵败也好救援。杨业出兵后不敢轻战，久未回还。潘美与王诜以为辽军败退，欲抢功劳，竟率军离开谷口，来会杨业。此时杨业已败退，潘美见势不妙，弃陈家谷口逃走。杨业且战且退，至谷口已傍晚。本以为伏兵四起，定杀辽军个措手不及，不料竟空无一人。杨业无奈，只得率众守住谷口死战。此时，杨业之子杨延玉也已战死。部下也仅剩百馀人。杨业知必死，叫部下散了，自己死守。杨业素与士卒同甘苦，无人愿退缩。最后全部壮烈殉国，无一生还。杨业身受重伤，仍杀敌数十，最后因马受伤被俘。杨业宁死不屈，后绝食而死。而非戏剧小说中的撞死在李陵碑前。
杨业死后，朝野义愤。宋太宗削去潘美三个虚衔。王诜被开除军籍。杨业有七个儿子，除杨延玉战死外，杨延昭(即杨六郎)曾长期在今河北地区与辽作战。他所驻守的保州(今河北保定)高阳关离三关口很近。杨六郎之子杨文广，曾抗击西夏，后来也在今河北地区抗辽。宋史有杨业、杨延昭传。至于杨门女将，不见史料有载。是否真有其人，就不得而知了。
“杨家将”故事发生在北宋初年，在北宋中叶就已迅速流传于天下。北宋着名文学家欧阳修在《供备库副使杨君墓志铭》中写道：“父子皆为名将，其智勇号称无敌，至今天下之士，至于裡儿野竖，皆能道之。”这裡的父子就是指杨业和杨延昭，这位供备库副使杨君，叫杨琪，其祖父是杨崇勳，杨业是其伯祖。另一位名列唐宋八大家的着名人物苏辙也写过一首《过杨无敌庙》，苏辙也是北宋人，离杨业去世的年代并不算太远，他的诗从另一个侧面证实了杨家将故事在宋代的影响力。
到了南宋，民间艺人把杨家将故事编成了话本，在民间越传越盛。最具代表性的当属南宋遗民徐大焯所着的《烬馀录》，创造出了杨宗保，还构想了杨家父子捨命救援宋太宗的情节。到了元代，杨家将故事形式又有新拓展，出现了杂剧，比如《昊天塔孟良盗骨》等。到了明代，杨家将故事进一步丰富，出现了《杨家将演义》、《杨家将传》，杨家将故事以小说、评书的形式广泛流传。这些故事反映的时间跨度加大，从宋太祖赵匡胤登基一直写到宋神宗赵顼，约100年的历史，编撰了杨家祖孙世代抗敌的英勇故事。