金城人边章、韩遂杀了刺史、郡守，进行叛乱，部众10多万人，使得天下骚乱、动荡。曹操被征召做典军校尉。此时恰逢灵帝逝世，太子即位，太后临朝听政。大将军何进和袁绍策划诛杀宦官，太后不听从，何进就召董卓，想利用他来胁迫太后，董卓未到达而何进被杀了。董卓到后，废黜灵帝为弘农王而立献帝刘协。董卓上表推荐曹操做骁骑校尉，打算跟他商议国事。
曹操于是改名换姓，从小路向东回乡。出了虎牢关，经过中牟县，被亭长怀疑，逮到县里。县城中有人暗中认出他，替他求情，曹操才得以释放。董卓终于杀了太后和弘农王。曹操到了陈留，散发家财，纠集义兵，准备凭借这支队伍来诛杀董卓。冬季12月，开始在己吾起兵，这一年是中平6年。初平元年春季正月，后将军袁术、冀州牧韩馥、豫州刺史孔伷、兖州刺史刘岱、河内太守王匡、勃海太守袁绍、陈留太守张邈、东郡太守桥瑁、山阳太守袁遗、济北相鲍信同时起兵，各有数万人，推举袁绍做盟主。曹操代理奋武将军。
董卓听到义兵起事，就逼迫天子迁都长安，自己留守洛阳，焚烧了宫殿。这时，袁绍驻扎在河内，张邈、刘岱、桥瑁、袁遗驻扎在酸枣，袁术驻扎在南阳，孔昉驻扎在颍州，韩馥在邺城。董卓兵力强大，袁绍等没有人敢领先进军。曹操道：“发动义兵来讨伐逞凶作乱的人，大军已经集合，各位还迟疑什么？假使董卓听到崤山以东的义兵起事，倚仗朝廷的重威，占据二周的险隘，向东进军来控制天下。
即使他的行为违背道义，也能够成为祸害。如今董卓焚烧了宫殿，劫持天子迁都，使得海内百姓震动，不知道归附谁，这是天灭亡他的时候啊，打一仗就可以使天下安定了，不可以丧失时机啊。”于是率兵向西，准备占据成皋。张邈派部将卫兹分兵跟随曹操。曹操的兵马抵达荥阳的汴水，碰上董卓的部将徐荣，交战失利，士兵死伤很多。曹操被流箭射中，所骑的马也受了伤，堂弟曹洪把马让给曹操，才得以乘夜逃脱。徐荣见到曹操所率领的士兵虽然少，却奋战一整天，认为酸枣不容易攻下，也就率兵撤回。曹操回到酸枣，各路军队10多万士兵，天天摆酒盛会，不考虑进取。
曹操责备他们，乘机献计说：“请各位听从我的计策，所有的军队都构筑高深的壁垒，不跟敌军作战，多布置疑兵，显示天下的形势，以正义诛伐叛逆，是可以很快平定的，如今军队依据正义而行动，却抱着犹疑的态度而不前进，使天下的人失望。我私下替各位感到羞耻。”张邈等人不接受这个意见。曹操士兵少，就和夏侯惇等人到扬州招募士兵，扬州刺史陈温、丹阳太守周昕送给士兵4000多人。
回到龙亢县，士兵大多叛逃了。到了建平县，又收集士兵。得到1000多人，进驻河内。黑山贼于毒、白绕等10余万人抢掠魏郡、东郡，王肱不能抵御。曹操率军进入东郡，在濮阳攻打白绕，击败了他。袁绍因此上表推荐曹操做东郡太守，治所在东武阳。3年春季，曹操驻军顿丘，于毒等攻打东武阳。曹操于是率兵向西进入山岖，攻打于毒的大本营。
于毒听到这消息，放弃武阳回军，曹操中途截击眭固，又在内黄攻击匈奴首领於夫罗，都大败了他们。青州黄巾军百万人进入兖州，杀了任城相郑遂，移军进入东平。曹操率军追击黄巾军直到济北。黄巾军乞求投降。冬季，接受投降过来的士兵30余万人，男女100余万口，收编其中的精锐士兵，号称“青州兵”。