在北宋还没有建立之前，后周世宗柴荣最信任的人一个是武将赵匡胤，另一个则是宰相范质，只不过在柴荣死后第二年就发生了陈桥事变，赵匡胤建立北宋，范质对此也表示无可奈何，只能选择顺势加入北宋，而他的职位依旧是宰相。
五朝为官
幼时的范质勤奋好学，在十四岁时就学有所成，早早的收徒授课，后来他二十四岁时又考中进士，入朝被任命为忠武军节度使推官，就此开始了他的五朝为官的仕途生涯。
起初范质侍奉于后唐，后唐被后晋消灭之后又转去效力后晋，在后晋覆灭之后，又转而侍奉于后汉，此时范质结识了日后建立的后周太祖郭威。
后汉隐帝后来对郭威产生疑心猜忌，想要暗中将其除掉，但是被郭威所知。不久之后郭威从邺地起兵，并向皇宫进发，范质则藏于民间，但被郭威的手下找到，接着两人便一同图谋天下，后周也就此建立。
而郭威之所以会将皇位传给养子兼内侄的柴荣，是因为他的亲儿子已经被汉隐帝杀害，加上他对自己妻子柴氏十分深情，妻儿死后一生没有再册封皇后，便把柴荣当成了自己的亲生儿子。
在柴荣也病逝之后，赵匡胤发动“陈桥事变”代周建宋，但事已至此，范质也明白如今后周大势已去，只能是效力于宋朝，赵匡胤也继续让范质当宰相。
范质也举荐了许多贤能之士入朝为官，将他们都放到了合适的地方，自己则埋头苦干，撰写了百余卷著作，诸如《范鲁公集》、《五代通录》等等。
效力大宋
赵匡胤在兵变回到京师之后，便带着王溥、魏仁浦来见范质，此时的范质正在吃饭，赵匡胤一见他便流泪诉说自己被众人拥戴逼迫的不得已，范质以昔日先帝对他就像亲人一样，如今先帝尸骨未寒却要谋反来指责赵匡胤。
但在大势所趋之下，范质也只好准备举行禅让之礼，只是他提出了一个要求，既然接受了禅让，就要如同侍奉母亲一样侍奉如今的太后，把幼帝当作自己的儿子一样对待，赵匡胤挥泪许诺。
范质为这次的宽容付出了代价，一直以来都忍受着良心的谴责，尽管他还是那个宰相，尽管不是他取代了后周，但他却辜负了柴荣临终前的重托，没能助幼帝治理国家，反而效力于新的政权。
甚至范质都不敢把事情做得太满，就因为后周皇室离他关系最近，他害怕如今的朝廷猜忌他们，所以才会在行事上有所顾虑，毕竟经历过五个朝代的他，类似的事情已经见过太多太多了。
从范质后来的一系列表现中，可以看出他一直都没能放下自己的心结，在担任宋朝宰相的这么多年里，一直都清正廉洁，所得的那些俸禄赏赐，全都送给了穷苦之人，就是希望能够得到精神上的救赎。
虽身居宰相之位，范质平时吃得还不如一个普通人家吃得好，平日里也是穿着粗布衣服，可以说范质在北宋时期，在奉公克己上已经是达到了一种极其苛刻的程度。
坟前无字碑
范质在早期对赵匡胤并不忠心，他所做的无非是想要保住柴氏一脉，但后来他也被赵匡胤的仁心所打动，所作所为才是真心为了宋朝。范质在职期间唯一一次发怒，是在有人想要铲除柴氏一脉以绝后患之时。
后来范质病逝，家中没有一点积蓄，赵匡胤之前不久才嘉奖给他的赏赐，也被范质拿去送给了孤贫百姓，本来赵匡胤还想为范质亲自撰写碑文，但却从范质儿子范昱那里得知了范质的遗言。
范质临终前说不要朝廷的谥号，也不要在坟前墓碑上刻碑文，赵匡胤听后便在悲痛之下罢朝。可见范质至死也没能有一刻解脱，实乃两朝贤相，一代忠臣。
赵匡胤为了完成之前自己对范质的承诺，便挖了一块石碑放在太庙里告诫后人。此碑只有新天子即位时才能启封太庙默诵，其余人皆不知碑上所刻誓词。
碑上刻有三行誓词：一是柴氏后代有罪不能加刑，就算是谋逆罪，也最多将其在狱中赐死；二是不能杀士大夫，及上书言事者；三是子孙有违此誓者，天必殛之。