张绣怀着忐忑的心情归降曹操，却果如贾诩所料，曹操非但没有提往日的杀子之仇，反而拉着张绣的手，和他欢谈畅饮，又结为儿女亲家，并封张绣为扬武将军。
张绣感激万分，在官渡之战中，作战十分勇猛，立下战功，被封为破羌将军。
袁绍败亡后，张绣又马不停蹄随曹操征南皮，配合虎豹骑击败袁绍之子袁谭，数功并赏，增加食邑共两千户。
汉末三国时，天下大乱，百姓涂炭，人口锐减，曹操在《蒿里行》中也写道：“白骨露於野，千里无鸡鸣。生民百遗一，念之断人肠。”
这个时候，曹操手下的将领，即使曹仁、夏侯惇等宗室重臣的食邑也没有超过一千户的，而张绣食邑为两千户，可见曹操还是很重视张绣的。
后张绣又跟随曹操在柳城讨伐乌丸，未至柳城而故，谥号为定侯。
裴松之在给《三国志》作注的时候，关于张绣之死，引用了《魏略》的说法，说是曹丕始终对哥哥曹昂之死介怀，张绣心里不安，故而自杀。
《魏略》曰：五官（中郎将曹丕）将数因请会，发怒曰：''君杀吾兄，何忍持面视人邪！''绣心不自安，乃自杀。
但曹丕被封为五官中郎将是建安十六年的事，此时距离张绣已经去世多年，所以，我对《魏略》的记载持有怀疑态度。
央视版三国中的曹丕
上边就是正史上的张绣，至于张绣那个广为流传的绰号—北地枪王，则只见于民间评书《评话三国》，《三国演义》与《三国志》中均没有记载。
在《评话三国》中，张绣官拜“宛城侯”，兵器是虎头金枪，号称“北地枪王”，其师傅为汉末武术名家童渊，枪法名曰“百鸟朝凤”。
而童渊共有三个徒弟，大徒弟是张绣，二徒弟是西川大都督张任，晚年的关门弟子则是蜀汉五虎上将之一的赵云。
评书中张绣的两个师弟
宛城之战，张绣派亲信胡车儿偷走典韦的双戟，然后枪挑典韦。后来与赵云大战三百回合，被赵云自创的“七探蛇盘枪”杀死。从此之后，赵云成了真正的枪王。
虽然《评话三国》里张绣的生平经历听起来更加传奇，但终究是杜撰，史书中并没有关于张绣武艺、枪法的任何记载，他只是汉末割据的诸侯之一。
陈寿在公孙瓒、陶谦、张绣等人的合传最后评价张绣说：“张绣、张鲁等人改变强盗行为，位列功臣，在国家危难之时挺身而出，保全了族人宗庙，对他们来说就是很好的了”。
