刘秀以为然，于是拜吴汉为大将军，持节到幽州征发十郡骑兵。
此时因为刘秀是刘玄名义上任命的河北地方的总领导，苗曾在名义上还是归刘秀统管的。表面上双方很客气，但暗中苗曾却命令各郡不得发兵给刘秀。
吴汉于是利用了苗曾的表面客气，他轻装简从，只带着随从二十人去找苗曾，来到无终(今河北蓟县)。苗曾看到吴汉轻装简从，以为吴汉没有危险，亲自出城迎接。
吴汉乘其不备，下令随从将其就地斩杀。直接镇服了城内军民，皆愿归附。幽州各郡随后震恐，莫不望风服从。
吴汉不费什么力气，就完成征调任务，然后带兵南下，与刘秀会师清阳(今河北清河县东南)。
吴汉归来，诸将见吴汉兵强马壮，都认为他不会分兵给别人。
结果让大家意外的是，吴汉来到刘秀营中，呈上军士名簿，交出了所有征发过来的军士，诸将十分高兴，纷纷请求将兵士调拨麾下。
刘秀于是对众人笑道：“以前你们担心不肯把兵给你们，现在提出请求的为什么又这样多呢?” 诸将尽皆羞惭。
这时的刘秀名义上依然是更始帝刘玄的部下，所以更始派尚书令谢躬率六将军攻打王郎，于是和刘秀汇合，共同平定了邯郸。
谢躬对军队没有约束，军士抢劫虏掠现象很严重，刘秀深为憎恨，虽都在邯郸，还是分城而处。谢躬屯邺城(今河北磁县南)。
谢躬留大将军刘庆、魏郡太守陈康守邺城，自己率诸将军攻击尤来军（也是一支农民军）。结果，谢躬的战力实在是一般，尤来军拼命抵抗，交战良久，谢躬大败而归。
刘秀于是乘谢躬北征之际，让吴汉、岑彭带兵偷袭邺城。吴汉率军来到城下，派人潜入城内劝降太守陈康，陈康于是开城投降，并献谢躬妻子。
谢躬兵败而回，不知陈康已经反叛，茫然的入城，马上就被吴汉杀死。
刘秀自此和更始帝刘玄完全决裂。走到了独立建国的道路。
此后，吴汉随刘秀北上进攻铜马、重连、高湖各支农民军，常率突骑冲锋陷阵。
刘秀平定河北后，刘秀正式称帝，即为后来的东汉光武帝。刘秀即位后，经过群臣推举，认为吴汉有“诛苗幽州、谢尚书”的功劳，封其为大司马，统帅全军，后来进一步加封为舞阳侯。
征讨关东，攻伐陇右
河北平定以后，刘秀开始四面出击，逐个扫平各路起义军，农民军等。邓禹一路向西，吴汉一路就向东，向南发展。
刘秀即位后的建武二年（公元26年），吴汉先是率王梁、耿弇等九人共击檀乡(在山东兖州)农民军于漳水，大破敌军，收降了十万余人。吴汉因为进爵为广平侯，食邑四县。
后来，吴汉率诸将击邺西（河北邯郸）一带的山贼黎伯卿等，山贼不是对手，一路逃跑，追到河内脩武（河南焦作），尽灭山贼。刘秀亲自赶来抚问慰劳。
又遣吴汉进兵南阳郡，攻取宛、涅阳(今河南南阳市西南)、郦(今南阳市北)、穰(今河南邓县)、新野诸城。收复了河大部分地区。
本来形势一片大好，但吴汉此时犯了一个错误，在南阳地区，放纵部下劫掠乡里，致使民怨沸腾，看不惯吴汉这种作法的邓奉因此直接自立了。邓奉的这一反，搞的刘秀很是恼火，派了几路军都没能剿灭，最终第二年刘秀在灭了西边的赤眉军后，亲征才将邓奉诛杀。
虽然吴汉有错误，但是在当时的情形下，为了让士兵有动力打仗，劫掠有时也是不得已的事情。吴汉因此也并没有受到过多的指责，不久，刘秀就命令吴汉南下。吴汉与秦丰（一支农民军）交战，大破秦丰; 又与偏将军冯异击溃铜马、五幡等农民军。
第二年春，吴汉与骠骑大将军杜茂、强弩将军陈俊等人率汉军在广乐包围了苏茂（又一支农民军）。
此时，苏茂的老大刘永率领周建及另外召集的十多万人，援救广乐。吴汉亲率骑兵与他交战，由于轻敌导致失利，自己还从马上掉下来，摔伤了膝盖。
回到营中。众人因为大敌当前，主将受伤，都为战事感到担忧。
谁知吴汉竟然竟象没事人似的，裹伤而起，下令军中杀牛犒赏将士，随后为大家打气：“贼人的人数虽然多，但是不足虑，不过是一些劫掠的强盗而已，这些人‘胜利时不会互相谦让，失败时不能互相救助’，他们就不是那些坚守气节为义而死的人。所以啊，我们击败他们是很容易的，因此现在正是封侯的时候，诸位好好努力吧!” 所有人听了都很激动，军威大振。
