熹平三年（174年），曹操20岁时，通过察举孝廉成为郎官。稍后曹操被任命为洛阳北部尉。上任数月。宦官蹇硕的叔叔违禁夜行，被曹操依律棒杀。这使曹操得罪了宦官集团，可曹操是依法而行，这些人又无法中伤诋毁曹操，只好转而称赞他做得好，外放他去担任顿丘令，第二年，即光和元年（西元178年），曹操因堂妹夫滁强侯宋奇被宦官诛杀，受到牵连。被免去官职。其后，在洛阳无事可做，回到家乡谯县闲居。
光和三年（180年），曹操又被朝廷征召，任命为议郎。此前。大将军窦武、太傅陈蕃谋划诛杀宦官，不料其事未济反为阉党所害。曹操上书陈述窦武等人为官正直而遭陷害。致使奸邪之徒满朝。而忠良之人却得不到重用的情形，言辞恳切，但没有被汉灵帝采纳。尔后，曹操又多次上书进谏，虽偶有成效，但东汉朝政日益**。曹操知道无法匡正。
公元184年【甲子年】（中平元年），黄巾起义爆发，曹操被拜为骑都尉，受命与皇甫嵩等人合军进攻颍川的黄巾军。结果大破黄巾军，斩首数万级。随之迁为济南相。济南相任内，曹操治事如初。济南国（今山东济南一带）有县十余个，各县长吏多依附贵势，贪赃枉法，无所顾忌。曹操之前历任国相皆置之不问。曹操到职，大力整饬，一下奏免十分之八的长吏，济南震动，贪官污吏纷纷逃窜。“政教大行，一郡清平”。
当时正是东汉政治极度黑暗之时，甚至有了买官制度。朝廷徵还其为东郡太守，拜为议郎，曹操不肯迎合权贵，遂托病回归乡里，春夏读书，秋冬弋猎，暂时隐居了。
当时天下纷乱，先是发生了冀州刺史王芬联合南阳许攸、沛国周旌等地方豪强，谋划废黜灵帝立合肥侯的事件。王芬等人曾希望曹操加入他们，但被曹操拒绝，后来王芬事败自杀。接着，又有西北金城郡（今兰州）的边章、韩遂杀死刺史和太守，率兵十余万反叛朝廷。
公元188年（中平五年），汉灵帝为巩固统治，设置西园八校尉，曹操因其家世被任命为八校尉中的典军校尉。
曹操以陈留起兵，散家财，合义兵，召集天下诸侯，共诛董卓，甚至是为了大义，能够让联军顺利成军，不惜将盟主之位让给袁绍，此处可以看得出他的胸怀大义，以及那善于忍耐的性子。
毕竟曹操乃是诸侯会盟的发起人啊，他才是最有资格成为盟主的，而且他的能力、他的才华也是做盟主的不二人选，然而却是将盟主之位拱手让给了四世三公的袁家长子袁绍，就是因为其可以有更强的号召力，也是不愿意和此时实力强大的袁绍争雄，这也为之后他和袁绍争雄天下，官渡之战的胜利，奠定了基础。
可以说不争才是争，区区一个盟主的位子，并不看在曹操的心中，他的眼光早已经是放眼天下，此时的不争，才是最好的争夺！
联军逼迫董卓迁都之后，曹操认为董卓“焚烧宫室，劫迁天子，海内震动”，应趁机与之决战，遂独自引军西进。曹操行至荥阳汴水（今河南荥阳西南），与董卓大将徐荣交锋，因为士兵数量悬殊，曹操大败，士卒死伤大半，自己也被流矢所伤，幸得堂弟曹洪所救，幸免于难。
回至酸枣，曹操建议诸军各据要地，再分兵西入武关（今陕西丹凤东南），围困董卓，关东诸将不肯从。关东诸军名为讨董卓，实际各自心怀鬼胎，意在伺机发展自己势力。不久，诸军之间发生摩擦，相互火拼。联合军至此解散。
曹操敏感的知道，联军是成不了大事的，诸侯过多，才是这个天下混乱，国贼窃取丞相之位的原因，这便是为他后来的军事生涯，打下了浓重的一笔，让得曹操的内心，对于权利充满了渴望，在他心中只有权利集中在手中，才是正统，之后为他的军事改革，甚至是之后的一系列事件，都是埋下了浓重的伏笔。
公元193年（初平四年）秋，曹操的父亲曹嵩来曹操处路上，被陶谦派兵杀害。曹操遂进兵徐州（治郯，今山东郯城），向东南扩展势力。陶谦退守郯县。不久曹操军粮将尽，撤围回军。
次年夏，曹操再征徐州，略地至东海。曹操征徐州期间，所过大肆杀戮，一路上“鸡犬亦尽，墟邑无复行人”。东郡守备陈宫对曹操不满，于是与陈留太守张邈、张邈之弟张超、从事中郎许汜及王楷等同谋叛乱。迎吕布为兖州牧。吕布为当时名将，先为董卓部将，后与王允定计诛杀董卓。
当时只有鄄城（今属山东）和东郡的范（今山东范县东南）、东阿（今山东阳谷东北）两县尚在曹操掌握之中，分别由司马荀彧和寿张令程昱、东郡太守夏侯惇等坚守，形势异常危急。曹操从徐州赶回。听说吕布屯于濮阳，遂进军围攻濮阳。二军相持百余日。蝗灾大起。双方停战，曹操军还鄄城。此时，曹操失去了兖州，军粮已尽，袁绍派人来劝说想让曹操投靠他，让曹操举家迁到邺县当人质。曹操本打算答应袁绍。多亏程昱劝阻，曹操才打消这个念头。
公元195年（兴平二年），曹操整军再战吕布，三败之。破定陶、庸丘等，平定兖州。吕布逃往徐州投靠刘备。七月，因李傕、郭汜的火拼，汉献帝从长安东归，下诏让各路诸侯勤王。
公元196年（建安