后梁灭亡后，洛阳一带被李存勖的后唐控制，张全义原来一直支指朱温打李存勖，早就成了李存勖的眼中钉肉中刺，李存勖欲除之而后快，谁知张全义早有心里准备，对李存勖诚恳的认罪，“泥首待罪”，并且对李存勖表忠心，说自己人在后梁，心早就归附了李存勖，确实，张全义在背后早已派其弟张全武与太原秘密交往，李存勖听了很高兴，加封张全义为齐王，接着，张全义又买通刘皇后，认了他作干爹，这下又变成李存勖的岳父，官运就更加通畅了，后升至太师太傅。
为了给子孙后代找好靠山，张全义又瞄上了发展快，有前途的李嗣源，机会终于来了，赵在礼在魏州发动兵变，李存勖要御驾亲征，大臣们主张让李嗣源去，李存勖不同意，但在张全义劝说下，李存勖才同意了派李嗣源去，谁知李嗣源到魏州后，便倒戈与变兵合流，张全义闻之忧惧不食而亡，李嗣源当了皇帝后，追封张全义为太师，谥号“忠肃”，确实是张全义促成了他外出打仗，才有机会当了皇帝。
张全义历经三朝，与黄巢，唐昭宗，朱温，朱友珪，朱友贞，李克用，李存勖，李嗣源斗智斗勇，用心治理洛阳，位极人臣，被封太傅太师，也是逆袭成功的一生，也是遭人非议的一生。
