此次撤军后，曹军的主力很长时间里都无法再回凉州，因为主战场慢慢转向了合肥，荆州方向也承受着很大压力。
曹操的确错过了一次平定凉州的好机会，不过这种遗憾随后得到了弥补。在短短的两年时间内，凉州的局势突然峰回路转，韩遂兵败被杀，马超无法立足而逃走，凉州纳入曹操控制区。这可谓一场惊人的变化，造成这种变化的关键人物有两个，这两个人前面都提到过，一个是杨阜，一个是阎行。
曹操率大军撤走后，虽然留下夏侯渊驻守长安、留下韦康和杨秋等人驻守凉州东部三郡，但对凉州腹地鞭长莫及，凉州各种势力在马超的鼓动下又蠢蠢欲动，马超还联络了在兴国的羌族首领阿贵、在白项的氐王千万等部族势力再次起兵。
不知何故，韩遂没有参加这一次行动，马超率人攻打效忠于朝廷的郡县，有些地方虽然不愿意跟着起事，但害怕马超，也都应和他们，只有汉阳郡、安定郡没有投降。
韦康在汉阳郡，在杨阜的竭力劝说下，韦康决定率全城军民拼死抵抗，他们坚守凉州州治所在地冀县，等待朝廷援军的到来。马超率一万多人将冀县围了起来。马超联络了汉中的张鲁，张鲁这次倒答应了，派将领杨昂率兵前来助战。
冀县保卫战从建安十八年（213）正月一直打到8月，打了半年多，极为惨烈。守城的士兵只有1000多人，兵力对比至少十比一，但马超却没能攻进去，原因是城里有一位不知名的高人。
杨阜是冀县本地人，杨氏宗族子弟全部上了城墙，杨阜有个堂弟叫杨岳，精通阵法，他在城墙上修筑了一个偃月营，来跟马超死战。所谓偃月营，就是一种形似偃月的阵法，常常用于背山冈、面陂泽之地，轮逐山势、弦随面直，适合于地窄山狭之所，城上地方狭小，正可以采取这种方法。
这种阵法很有效，马超、杨昂打了好几个月，冀县仍然未破。
奇怪的是，身在长安的夏侯渊一直没有反应，说他不知道这里发生的事有些不太可能。但如果他还不及时来救，冀县终将不保。
韦康、杨阜商量后，决定派人冒死出城搬救兵，派出去的人名叫阎温。冀县城紧邻渭水，阎温趁夜从水中潜出城，天亮后城外的敌兵发现水迹，派人来追，追到显亲县时把阎温追上了。显亲县位于冀县以北，看来阎温打算先逃到安定郡，在那里找到杨秋，再设法向长安的夏侯渊求救。
阎温被抓回来，马超对他很客气，解开他的绑绳说：“现在成败已无悬念，足下为孤城请救兵而被抓，想行大义又如何做到？如果听我的，你对城里说外面没有救兵，可以从此转祸为福。不然，现在就杀了你。”阎温答应，马超命人把阎温带到城下，阎温却对城上大呼：“大军不过3日就到，大家要坚持呀！”
城上的人听到，群情激昂，高喊万岁。马超大怒，威胁阎温说：“你不想活命了吗？”阎温不理，马超还想诱降他，每次都遭到阎温的谴责，阎温最后被杀，临死前说：“事君就要死无二心，让我说不义之言，我岂能苟且偷生？”
阎温说大军3天就到，只是一句激励大家的话。几天过去了，援军仍未到，城里的士气开始低落，就连韦康都有投降的打算。杨阜竭力劝说，甚至流下眼泪：“杨阜等率父兄子弟以义气相激励，至死也没有贰心，当年田单守城也不过如此。现在放弃马上就能得到的功劳，陷于不义的名声，我宁愿以死相守！”杨阜越说越激动，不禁大哭起来。
但韦康等人还是决定投降，他们打开城门迎接马超入城。马超占领了凉州最重要的城市冀县，在此自称征西将军，兼任并州牧，负责处理凉州一切军政事务（督凉州军事）。韦康虽然投降却没保住性命，马超让杨昂把韦康杀了，但奇怪的是，却没有追究杨阜，也许因为杨阜是本地人，在这里势力很大，马超还想加以拉拢和利用。
但杨阜只想报仇，可惜的是一直没有机会。这时他的妻子去世了，他以丧假为由离开了冀县。杨阜有个表兄叫姜叙，手里有一些人马，屯兵在历城，此地位于冀县以南，前往武都郡的方向。杨阜到了历城，见到了姜叙，拜会了姜叙的母亲。杨阜把此前在冀县的事跟表兄说了，言谈之中很悲切，他们的谈话被姜叙的母亲听到，她支持儿子参加杨阜的计划。
于是，由杨阜牵头，姜叙找来同乡姜隐、赵昂、尹奉、姚琼、孔信等人，还有武都郡人李俊、王灵等，约好共同讨伐马超。姜叙还派堂弟姜谟悄悄潜进冀县，设法联络杨岳，杨岳被马超看管，暂时没有自由，姜谟又联络了梁宽、赵衢、庞恭等人。
这样就有了十来个骨干分子，他们在汉阳郡秘密结盟，同时派一部分人潜入冀县，其中包括赵昂。赵昂当过县令，后来给韦康当过军事参谋（参转军事），他的妻子名叫王异，夫妻二人都参加了冀县保卫战，韦康想投降时赵昂也曾苦苦相劝。
马超进城后想拉拢赵昂，但又不完全信任他。马超的妻子杨氏听说王异不一般，主动请来相见，王异知道丈夫已秘密参加了图谋马超的行动，为了赢得马超的信任，她与杨氏也主动接近，最终获得了杨氏的信任，通过马超的妻子杨氏这层关系赵昂也得到了马超的信任。
建安十七年（212）9月，杨阜、姜叙在距冀县不远的卤城起兵，马超亲自率兵来讨伐。
马超一走，潜伏在冀县的赵昂、赵衢、梁宽等人设法把杨岳救出，利用杨岳、赵昂在冀县的影响力很快控制了冀县城，杨岳下令关闭城门，杀了马超的妻子杨氏及儿女。马超在卤城遭到杨阜、姜叙的抵抗，杨阜亲临一线，身上先后负了五处伤，本族子弟也有七个人战死，在他们拼死抵抗下，马超无法得手。
马超回兵，但冀县已失，只得转而去偷袭历城。
马超的人马开到历城，城里居然认为这是姜叙等人回兵，没有任何防备，马超轻松地将历城占领，抓住了姜叙的母亲。马超想用姜叙的母亲做筹码进行谈判，姜母痛斥道：“你这个背弃父亲的逆子，杀害守君的贼人，天地岂能容你，不早点去死，还有什么面目活着？”姜母故意激怒马超，求得一死。马超大怒，把她杀了。
马超无法在历城立足，下令一把火烧了历城，之后由武都郡逃往汉中，张鲁还真够意思，又给了马超一些人马，让他重新夺回凉州。这时候夏侯渊终于决定率兵来救了，有人建议先向邺县汇报后再做行动，但夏侯渊认为长安到邺县来回4000里，等接到命令凉州那边肯定坚持不住。
夏侯渊说得没错，但这个想法为何不出现在一年前？
这一次夏侯渊行动很快，他命张郃率5000人先出发，从陈仓入凉州，他自己督运粮草紧跟其后。张郃过了陈仓，在渭水上游遇到马超，马超率领由氐人和羌人组成的联合兵团共数千人来战张郃，但刚一接触就败了下来，只得再次逃往汉中，从此不再做反攻凉州的打算。
夏侯渊率大军随后开到，原来被迫效忠马超的凉州西部各县全部投降，对曹操来说这绝对是个意外收获。为表彰收复凉州的有功人员，曹操以朝廷的名义连封十一个人为列侯，他们过去都是一些小人物，关键时刻挺身而出，从而建立了特殊功勋。
杨阜上表辞让，曹操不许，亲自给他写信要他接受。杨阜后来担任过益州刺史、金城郡太守、武都郡太守等职，曹丕继位后担任过将作大匠、少府卿，以直言恳谏著称。