实际上，曹操讨伐张鲁的更重要目的是想剿灭长时间割据西北的马超与韩遂，马、韩二人占据一方，虽没有叛乱之意，却不服从曹操。而且孙权已经有了联络马超的打算，想在曹操后方进攻，欲令曹操腹背受敌。曹操很早就想除掉这块心头之患，但师出无名。所以，他想借这次出兵寻找借口将二人予以清除。

当曹操派军队讨伐张鲁的时候，马超、韩遂等将领果然认为钟繇是曹操派来消灭自己的，因此立刻发动叛乱。曹操派遣曹仁讨伐。马超等人将部队屯扎在潼关，曹操戒令曹仁等说：“关西马超等人兵力强悍，要坚守壁垒，切不可与之交战。”七月，曹操亲自出征，与马超等隔关对峙。

曹操看到马超占据了有利地势，易守难攻，便想法智取。表面上，他采取急攻态势，暗中却派遣徐晃、朱灵等人夜渡蒲阪津，占据河西为营。之后，曹操率军从潼关北渡，要与徐晃等会合。不过事情却发生了急剧的变化，曹军前锋部队刚刚渡河，曹操和一百余人断后，马超突然率领一万余人来袭，而这时的曹操还在军营内的胡床上未来得及起身。张郃、许褚等人看到情况紧急，急忙领着曹操进入船中。但河水湍急，一下子将曹操的船只冲离了四五里远，马超见状又急令士兵向船中射箭，一时间，箭如雨下，铺天盖地而来。曹操乘坐船只的船工中箭而死，许褚左手高举马鞍为曹操遮蔽弓箭，右手划船，这样才勉强逃出。

曹军各将领看到军队溃败，急于找到曹操，但却不知曹操坐在哪只船中，极为惶恐，最后发现了曹操以后，又极为激动，喜极而泣。曹操却若无其事，放声大笑说：“今天差一点被马超这小子所困！”当军队溃散的时候，校尉丁斐趁机放出牛马以诱惑敌人，敌人纷纷去夺取牛马，曹操趁机渡过河去，沿着河边小道向南而去。

曹操的这次失败给了他极大的警示，让他不得不小心翼翼地应对马超。当马超的士兵退守渭河河口的时候，曹操在河中设置了大量疑兵，暗中却用船载上士兵进入渭水，结为浮桥，趁着夜色，将士兵分散运输到渭河南岸安营扎寨。马超发现曹军已经全部渡河，便对曹军营寨进行攻击，但为时已晚，曹操埋伏下精兵将其各个击破。

马超看到曹军实力强大，便请求与曹操割河西之地为和，被曹操断然拒绝。双方相持不下，每当曹军强渡渭水时，马超军队便极力袭击，所以军队无法安营，再加上河滩沙地，土质松软，军队甚至无法修筑壁垒。这时有一个叫娄子伯的人对曹操说：“现在天气寒冷，可令士兵将沙子垒筑起来，然后灌入河水，待河水冻结后，城也就筑成了。”曹操大喜，忙令士兵运水筑城，一夜之间，一道坚固的城墙就筑好了，这样，士兵才得以过河。九月，曹军已经全部渡过渭水。

马超求和不成，便屡次挑战，但曹操置之不理，马超无奈，除了请求割地之外，又附加上了送儿子为人质的条件。曹操采用贾诩离间马超和韩遂的计策，暂时答应了马超。

这时韩遂请求与曹操相见，因为曹操与韩遂的父亲为同年孝廉，两人阵前单独相见交谈了相当长的一段时间，内容都是京都旧事，丝毫未涉及军事。两人谈笑风生，极其融洽。谈完，韩遂回到阵营，马超问及所谈内容，韩遂感到所谈内容并无军国大事，均为过去琐碎之事，没必要重复给马超，于是就实话实说：“没说什么。”马超听后却大为不快，感到韩遂没有说实话。几天后，曹操又写信给韩遂，信中故意涂涂改改，目的是让马超看到后，怀疑信件是韩遂改的，果然，马超见信后更加怀疑韩遂通敌。

离间之计成功，曹操便开始与马超面对面交锋，到了双方择定的交战日期，曹操先用轻兵挑战，待对方筋疲力尽之时，曹军突然派威猛骑兵两面夹击，打得马超军队狼狈逃窜，数名大将被杀。马超、韩遂败逃凉州。至此，关中平定。十二月，曹操班师，留夏侯渊驻守长安。

西北地区的安定，对曹操来说具有重要意义。长期以来，西北边陲虽然由朝廷直接任命官员，但经常处于割据状态。所以，解决了西北问题后，曹操便又开始向东讨伐孙权，为进一步统一全国扫清障碍。

攻汉中得而复失

西北安定之后，经过半年多的休整，曹操于建安十七年（公元212年）十月再征孙权，建安十八年（公元213年）正月，曹军进攻濡须口，攻破孙权江西营，并俘获孙权都督公孙阳。之后，双方相持一月有余，曹操“作油船夜渡”，被孙权发觉，孙权率水军围攻，结果俘获曹军3000余人，曹军另有3000人溺水身亡。这次交战，孙权大胜。接着，孙权又数次挑战，曹操吸取教训，坚拒不出。孙权看到曹军毫无动静，便乘轻船从濡须口径入曹军大营，曹军将领认为孙权这是挑战，欲袭击他们，但曹操却说：“这一定是孙权想亲自看一看我们军队的阵列。”并命令军中严阵以待，没有命令不得擅自进攻。曹操看到孙权部队纪律严明，便喟然而叹说：“生子当如孙仲谋，刘表的儿子就像猪狗一样不堪重用。”

孙权这一番“巡视”，给这次战役带来了转机，他感觉到这样和曹操对峙下去不会有任何结果，所以离开曹营之后，他马上给曹操写了一封短信说：“春水正在涨，你应该马上退却。”有意思的是，除了这封短信之外，孙权还另外加了一张纸条，上面写着“足下不死，孤不得安。”而曹操也有同感，所以面对孙权的恶言，他一点也不生气，反而对大家说：“孙权没有欺骗我。”于是便率军返回。四月，到达邺城。五月，曹操被献帝策命为魏公。

之后，在西北边疆，马超、韩遂及其余部联合边疆少数民族又多次叛乱，夏侯渊均予以平定。马超不得已逃亡汉中。曹操也在建安十九年（公元214年）的七月，再一次东征孙权，但仍然劳而无功。

多次征讨孙权均无功而返，曹操便把重点放在了西南地区。建安二十年（公元215年）三月，曹操西征张鲁。张鲁占据的汉中为战略要地，长期以来一直备受各方关注，孙权曾多次与刘备协商共同进攻汉中，其目的很明显，一方面是要回本属于自己的战略要地荆州；另一方面染指西蜀，与刘备共占西南地区，扩大自己的势力范围。但刘备也十分清楚孙权的用意，所以，以益州刘璋系宗亲为由，断然拒绝了孙权的提议。此后，刘备加紧了占领益州的攻势，并将目光瞄向了通向北方的要塞汉中。曹操也深知汉中的重要性，所以，他亲自率兵攻打张鲁。

曹操大军到达陈仓以后，曹军进入氐族人居住地，氐人奋起反抗，曹操派遣张郃、朱灵等击败氐人。四月，曹操从陈仓出散关、入河池。氐王窦茂率众万余人依仗险要地形抵抗曹军，五月，曹操率军将其平定。七月，曹军终于到达汉中西面门户阳平关。此时，阳平关由张鲁的弟弟张卫和大将杨昂把守，连山修筑城碍十余里，曹军屡攻不下，于是曹操引军而回。张卫等人见曹军撤退，便解散守备。曹操却秘密派遣将领连夜突袭，大破张卫，张卫逃跑，张鲁率残部奔向巴中。曹操进入南郑，至此，通往西蜀的战略要地汉中被曹操占领。十一月，张鲁自巴中率众投降。同时，刘备也占领了益州，并攻占巴中，曹操派遣张郃进击。十二月，曹操从南郑返回，留夏侯渊驻守汉中。次年一月，曹操回到邺城。五月，曹操被献帝进爵为魏王。