建安十六年（211年），以马超、韩遂为首的十部联军，聚集十余万人马，据守潼关抗曹。曹操发兵进取关中，徐晃奉命屯守汾阴，以镇抚河东。曹操至潼关后，遇到关中马超阻击，不得前进。曹操问计于徐晃，徐晃说：“您已带大兵到此，而敌人不再分兵守卫蒲阪，可知他们缺乏谋略。请给我一支精兵，渡过蒲坂津，作为大军的先导，截断敌人的后路，就可擒住他们了。”曹操至同意此举，并派徐晃、朱灵率四千精兵从蒲坂津（今山西永济、陕西大荔朝邑之间黄河渡口）乘虚渡过黄河。阵地尚未建成，贼人梁兴夜间率步骑五千余人攻徐晃，徐晃将其击走，随即建立了桥头阵地。闰八月，曹军从此渡河。九月，曹操又采纳谋士贾诩的计谋，离间马超和韩遂，最终大破关中军，斩成宜、李堪等。马超、韩遂逃往凉州（今甘肃及宁夏回族自治区等地）。
建安十七年（212年），曹操派徐晃与夏侯渊平定隃麋、汧诸氐，在安定会师。曹操还邺后，又派徐晃与夏侯渊平鄜（今陕西省延安地区）、夏阳余贼，斩杀梁兴，降三千余户。
建安二十年（215年）七月，徐晃随曹操征讨张鲁，徐晃因功升为平寇将军。不久，解将军张顺之围，击陈福等三十余屯，皆破之。同月，曹操回邺，任夏侯渊为都护将军，率徐晃与张郃驻守阳平关（今陕西勉县西），以拒刘备，自己返回邺城。
建安二十三年（218年），刘备进攻汉中（治南郑，今陕西汉中）。四月，蜀军进至阳平关。夏侯渊、张郃、徐晃等率军阻击。刘备派部将陈式等十余营袭击马鸣阁（今四川广元北），企图切断曹军后方通道，被徐晃击败，蜀军自投山谷，死者甚多。曹操听说后，非常高兴，给了徐晃指挥军队的符节，并下令说：“这一条阁道是汉中的咽喉险要之地，刘备想断绝内外联系，夺取汉中。将军这一举粉碎了刘备的计划，真是妙计中的妙计啊！”后来，夏侯渊阵亡，曹操亲到汉中，撤出了剩余的部队。
建安二十四年（219年）六月，刘备继取汉中后，派孟达、刘封攻占汉中郡东部的房陵、上庸等地，势力有所扩展。七月，孙权欲攻合肥，魏军大部调动淮南防备吴军。镇守荆州的蜀前将军关羽，抓住战机，留南郡（治江陵，今湖北江陵）太守糜芳守江陵，将军傅士仁守公安（今湖北公安西北），自率主力北攻荆襄（魏荆州治新野，今河南新野；襄阳郡治襄阳，今湖北襄樊）。
张郃是左将军，徐晃是右将军，两个人军事能力都差不多，优秀的将领。
徐晃有两大战绩是比较知名的，一是渭南之战，与朱灵一起偷渡渭水，截断马超的后路，赢得渭南之战的胜利，二是解围樊城，大败蜀汉五虎上将关羽，关羽和马超也都算是间接的败在徐晃之手。
徐晃一生比较节检，为人低调，可能是以前挟持汉献帝的时候，穷怕了，经常没饭吃所致。