曹魏太和二年（230），曹魏大司马曹真策划的伐蜀之战以失败而告终，这让曹真跌了个大跟头，因为这一仗是在他力排众议下打的。
曹真病了，情况跟石亭战败后的曹休有些类似，这容易让他联想起袁绍和袁术，他们都自认为高人一头，风云际会，时势造就英雄，他们也都干出了一番事业，然而一旦遭受打击却一蹶不振。在乱世争雄必须有一个强大的内心，在这方面他们远不如曹操、刘备这些创业者，回顾曹操、刘备等人的一生，吃过无数苦，多次身处绝境，打过许多败仗，但都以乐观的心态挺了过来。
曹真一病不起，魏明帝赶紧命他回洛阳养病。曹真回到洛阳后病情不断加重，魏明帝亲自到府邸探望。不久曹真去世，魏明帝谥其为元侯，爵位由长子曹爽继承，曹羲、曹训、曹则、曹彦、曹皑等其余几个儿子也全都封为列侯。
曹真的去世是个标志性事件，作为“诸夏侯曹”第二代的核心人物之一，他的离世标志着这个把持了曹魏30多年军权的集团已逐渐淡出，虽然此时“诸夏侯曹”中的第一代人物曹洪仍健在，担任着属于荣誉性职务的骠骑将军，虽然“诸夏侯曹”的后人中还有多人在军中任职，但他们已经没有太大影响了，目前掌握曹魏军权的是司马懿、张郃、满宠、蒋济等一批异姓将领。
在曹魏三大战场中，西线无疑是重中之重，魏明帝决定把坐镇中线战场的司马懿调到那里以接替曹真。魏明帝给司马懿发去了诏书，其中写道：“现在西线战场出现了问题，非你去不行啊！”
话说得虽然很殷切，但这也许并不是魏明帝内心的真实想法，曹休死后魏明帝心里感到了一丝孤单，对曹休、曹真两位叔父他是完全放心的，对司马懿，他有些吃不准。之前魏明帝之所以同意曹真伐蜀，也是基于对曹真的进一步扶持，希望以此打压司马懿，但事不凑巧，一场大雨扰乱了好事。
现在，魏明帝不得不依靠司马懿，他下诏升司马懿为大将军，同时升张郃为车骑将军，车骑将军在班次上略低于曹洪担任的骠骑将军，但此时在魏军里是事实上的二号人物，让军界排名前两位的将领同时集结在一个战场，显示出这是一项非同寻常的安排。
曹魏太和二年（231）诸葛亮决定再次由汉中北伐，这已经是他指挥的第四次北伐。
诸葛亮做了精心的准备，其中一项重大调整是，他命令此前一直驻守在江州的李严率2万人马来汉中，之后让他以中都护的身份留守汉中，处理丞相府行营的各项事宜，重点保证前线的军粮供应。诸葛亮还派人联络孙权，请他同时向曹魏发起攻击。每次北伐前诸葛亮都会通知孙权，这已经形成了惯例，而孙权也都尽可能给予配合，因为对他们来说这同样是一次进攻的好机会。
这一回孙权又使出了诈降计，他安排中郎将孙布向曹魏扬州刺史王凌诈降。不久前周鲂诈降，曹休被打得大败，王凌觉得孙权再笨也不会把刚使完的招数拿出来又用吧，所以竟然相信了。
王凌是汉末名臣王允的侄子，出身于著名的太原王氏家族，年轻时曾在曹操手下任职，曹丕在位时对他很器重，让他当兖州刺史，又兼建武将军，是曹魏政坛的新生力量。在石亭之战中曹休率领的魏军失利，王凌指挥所部拼死突围才使曹休得以安全撤退，后任扬州刺史。
王凌有些心高气傲，把顶头上司征东将军兼西线战场总指挥（都督扬州诸军事）满宠也不放在眼里，二人关系较差，王凌不断让人写告状信，想把满宠赶走。对孙布投降这件事满宠觉得可疑，王凌认为这是满宠怕他建功，于是越过满宠直接向魏明帝报告了情况。王凌和孙布进行了一段时间的接触和试探，最后王凌彻底相信孙布投降是真的。
但满宠仍然认为这里面有阴谋，就以王凌的名义给孙布写了封信，说自己这边兵力不够，让他再等等，到时机成熟时再行动。这时，魏明帝突然下诏让满宠回洛阳商量事情，满宠一走，王凌就加紧了与孙布“里应外合”的准备，想在东线战场创造出一个奇迹来，这场戏无论怎么演，都牵动了曹魏东线战场的注意力。
而在中线战场的荆州方向，自从司马懿离开后还没有明确新的接替人选。这样一来，形势对蜀汉就十分有利，在曹魏三大战场中，西线战场的总指挥刚刚上任，中线战场的总指挥还没有明确的继任者，东线战场的总指挥临时被召回，暂时负责的人又被孙权的反间计所吸引，在历次北伐中，没有比这更好的机会了。
对第四次北伐，诸葛亮选择的路线是陇右，汉中西边的武都、阴平二郡已被蜀军掌握，所以蜀军轻易就攻至祁山堡，将其包围，魏军守祁山堡的将领是贾栩和魏平，他们赶紧上报雍州刺史郭淮，请求支援。
司马懿已经到了长安，他以大将军、都督雍梁二州诸军事的身份召集车骑将军张郃、后将军费曜、征蜀护军戴陵、雍州刺史郭淮等重要将领开会，研究对策。
张郃认为陇右固然重要，但更重要的还是关中，应分兵驻扎在汉中的雍县、郿县等要地以防不测，司马懿不同意这个看法，他认为：“如果前面的人马能挡住敌人，将军这么说有理；如果挡不住，把人马分成前后两部，这就如当年项羽把人马一分为三，反被黥布所打败一样。”汉高祖十一年（前196）楚将黥布叛逃，项羽出兵阻截，把楚军分成三部，他的想法是，如果一部被打败，另外两部可以增援，但结果却不是这样的，黥布击败其中一部后其他两部便迅速瓦解了，这说明分散兵力容易被对手各个击破。
但张郃的意见也并非没有道理，现在的主战场看起来是陇右，但如果蜀军在那边只是佯攻，而将主力暗藏在秦岭山中，待魏军主力西进后，蜀军主力迅速从秦岭里的各条栈道杀出直击关中，那形势就严峻了。
张郃久在西部，与蜀军打过很多交道，著名的街亭之战就是他指挥的，他的建议自然有一定道理，但司马懿仍坚持自己的看法。这其实是一种赌博，赌的是诸葛亮没有从秦岭栈道用兵的计划。
司马懿随后率魏军主力前进到隃糜，此地在今陕西省千阳县境内，之后命费曜、戴陵率4000人马前往天水郡境内的要地上邽，自己率其余主力赶往祁山，以解祁山堡之围。
那么，诸葛亮有没有在秦岭山中留一支奇兵呢？没有。不是他智谋不足或不敢冒险，而是蜀军无此实力。
经过前三次北伐，蜀军损耗很大，在综合实力方面蜀汉本来就远逊于曹魏，也不如孙吴，由于总人口有限，蜀汉的常备军人数一般只有10万人左右，即使临时加大征兵的强度，总兵力也不会超过15万人，分出三分之一守全国各处，能集中在汉中的顶多10万人。这10万人马其实也无法同时全部调用，因为士兵有轮休制，一般情况下五分之四在军，五分之一轮休，“在岗”的士兵总数只有8万人上下了。
如果有充足的兵力，诸葛亮当然可以分兵两处，根据对手的反应相机确定主攻方向，但现在却不能，要么把主力拉到陇右，要么兵出秦岭栈道，二者不可兼得，而将希望寄托在秦岭山中的那几条栈道，这一直都不是诸葛亮看好的方案。
此前诸葛亮和司马懿从未有过直接交锋，听说曹魏新任的这位大将军亲自来了，诸葛亮立即调整部署，命王平率部屯扎在祁山附近的南围，继续攻击祁山堡，自己率蜀军主力去迎战魏军。但诸葛亮没有直奔司马懿本人而来，而是向上邽发起了攻击，由于双方兵力相差悬殊，郭淮、费曜被打败，蜀军占领了上邽，司马懿随即率主力赶来，在上邽以东扎营。
蜀军求战，魏军却避战不出，这是司马懿的策略，他认为蜀军的弱项一是人数不占优势，二是后勤保障不足，所以经不起耗，司马懿命令魏军凭借各自险要地势加强防守。雍州总体上还是曹魏的地盘，陇右与关中的交通还算通畅，蜀军难以获得补给而对魏军来说则不是大问题，司马懿耗得起。
在求战不能的情况下，诸葛亮决定撤退。
蜀军后退，魏军就往前移，始终保持一段距离，仍不进攻。就这样，蜀军一直退到祁山跟前，魏军索性进到尚未被蜀军攻克的祁山堡，司马懿命令军士在山上抓紧修筑工事，摆出一副凭借高山深谷长期据守的姿态。
对大多数魏军将领来说，过去跟着曹真和张郃时还从来没有这么窝囊过，敌人在面前不停地叫阵，自己却龟缩在营垒里不敢出来，多让人丧气！
贾栩、魏平等将领多次请战，司马懿一律拒绝，他们实在想不通，觉得堂堂大魏的军队还不至于这么胆怯吧，他们对司马懿说：“您畏惧蜀军就像见到老虎，就不怕天下人耻笑吗？”敢直接叫板顶头上司，如果这不是一时的激愤之语，那只能说明司马懿在这里还无法服众。的确，这里的大部分将领对司马懿还都比较陌生，之前有人可能会认为曹真的接班人应该是张郃，司马懿这个不速之客横插一道，怎能让人服气？
司马懿不怕天下人耻笑，因为只有笑到最后才是王道，他认真研究过蜀军的战法，知道其优劣所在，在当前情况下守而不战无疑是正确的选择，但这些道理要让每个人都懂也是一件难事。又过了几天，魏军将领都来请战，司马懿知道再不打就要出问题了。
5月10日司马懿下令出击，他让张郃率一支人马进攻南围的蜀将王平所部，自己率主力进攻诸葛亮。魏军放弃有利地势发起主动进攻，这是诸葛亮求之不得的事，他立即指挥蜀军全面应战，结果魏军大败，被蜀军斩杀3000人，蜀军同时缴获玄铁打造的铠甲5000副，弓弩3100张。
张郃在南围方面的进攻也受阻，别看蜀军攻坚不行，防守却是一流的，尤其是他们的弓弩很厉害，对付骑兵相当有效，再凌厉的攻势也穿不透如蝗的箭雨，南围攻击无果。事实证明一退再退的蜀军不是纸老虎，它的爪子和牙齿都锋利得很，对付它只能小心翼翼，这一仗让那些对司马懿不服的人暂时消停了下来。
双方继续对峙，对蜀军来说越来越不利。
此时已到了夏秋之交，开始下起了连阴雨，蜀军本来就很脆弱的运输线终于出了问题，李严派参军狐忠、督军成藩突然来到前线，向诸葛亮报告说，由于阴雨连绵粮食实在无法供应，李严报告了后主，后主诏令诸葛亮回师。
诸葛亮让李严留守在汉中，让他负责丞相府里的事，遇到问题李严应该先向自己汇报，是否撤兵应该由自己来定，李严不打招呼直接向后主做了汇报，这让诸葛亮十分不快。现在双方对垒，拼的是意志和决心，蜀军有困难，魏军也一样，这就要看谁能坚持到最后了，轻易撤军，那前面的所有付出岂不是白费了？如果要撤，干吗还要等到现在呢？
但现在诸葛亮没有别的选择，粮草供应不上，的确难以再支撑下去，更重要的是，一向不太管事的后主居然下诏让他回师，他只能服从。
于是诸葛亮下令撤退，这一回不是佯退而是全面撤退，在祁山堡的司马懿也看到了这种情况，下令追击，张郃对此又表示反对：“兵法说，围城一定要给个出口，撤退的敌人不要追击。”然而司马懿仍然坚持追击，并且点名张郃率队。
张郃不理解，也很无奈，但他是军人，懂得服从，于是领兵去追。张郃率部沿着蜀军主力撤退的方向一路追下去，一直追到了木门道这个地方，这是一条古道，东西两面雄山壁立千仞，中间一线空谷，宛若门户，当地百姓称其为峡门，具体位置在今甘肃省天水市秦州区西南40公里的木门村附近。
这样的地势是打伏击最理想之处，诸葛亮果然在此设下了伏兵，魏军到时，埋伏在峡谷两侧的弓弩手万箭齐发，魏军将士纷纷落马。有的史书说，一支冷箭射中了张郃的右膝。还有的史书说，射中的是张郃的髀骨，总之张郃中了箭。还有一部史书记载得更详细，说张郃一路追到木门道，突然发现路边有一棵大树被削了皮，上面题写着“张郃死此树下”几个字，张郃正迟疑间，蜀军埋伏在两侧的数千张强弩便一齐向魏军射来，张郃死于乱箭。
细节上尽管略有些出入，但结果却是一样的：魏军大败，损失惨重，堂堂的曹魏车骑将军也被射死了。
这一仗让魏军充分领教了蜀军弓弩手的厉害，这是一支在当时最为强悍的弓弩兵，他们手中持有一种特制的武器——诸葛连弩，这是诸葛亮革新兵器的一项发明。
对张郃的死历来有不少人认为是司马懿的阴谋，张郃的地位仅次于司马懿，在军中素有威望，在一些问题上又多与司马懿存在分歧，被司马懿视为眼中钉，所以故意逼死了张郃。但这只能是猜测，蜀军败退，司马懿下令去追，这是没有问题的，至于张郃战死，那只能说是个意外，或者是他自己不小心，司马懿又有什么责任呢？如果真是借刀杀人，也只能说司马懿做得实在太高明了，高明得让谁都挑不出理来。
张郃的死让魏明帝最伤心，听到这个消息时他正与司空陈群谈事，魏明帝悲伤地对陈群说：“蜀国未平，张将军却死了，你说该怎么办啊？”魏明帝的心情陈群也许最能体会，但他也只能应道：“张将军确实是一代良将，是国家的依靠啊！”魏明帝下诏谥张郃为壮侯，爵位由其长子张雄继承，其余五个儿子中有四人被封为列侯，一人被封为关内侯。