建安二年（197）11月，曹操率军再征南阳郡。
这次军事行动前，荀攸曾劝曹操暂时不要在南面用兵，他的理由是：“张绣与刘表相恃为强，然而张绣只是一股游军，处处要仰仗刘表的接济，刘表一旦不给他提供资助，二人势必分离。不如暂时缓兵，让他们自动分开；如果我们攻得急，刘表对张绣肯定不能不管，要全力相救。”
事后证明，荀攸的这个分析是有远见的，但曹操考虑到南面的事不能拖下去，必须尽快解决，好让自己无后顾之忧，可以腾出手来对付东面的吕布和刘备。所以曹操没有采纳荀攸的建议，继续进兵。
大军首先抵达南阳郡最北边的叶县，与驻守在那里的曹洪会合。如果曹操再不来，曹洪可能真守不住了，张绣的部队以凉州军为老底子，战斗力很强，刘表又派邓济等人支援张绣，南阳郡呈现一边倒的态势。曹操首先进军湖阳，那里是刘表的人马驻守，曹军攻克湖阳，生擒了刘表的部将邓济。
之后，曹军转攻舞阴，将其攻克。在肃清了宛县这些外围后，曹操率军攻打张绣的大本营宛县，又一次进军到淯水河畔。这里是曹操的伤心之地，去年，他的长子曹昂、侄子曹安民以及心爱的将领典韦都战死在这里。
在曹军的强大攻势下，张绣的主力离开宛县南撤，退到距宛县100多里的穰县，即今河南省邓州市附近。曹军占领了宛县，取得了此次南征的最大胜利。或许可以考虑就此收手，以宛县、舞阴一线为分界与张绣、刘表形成对峙，将南阳郡一分为二，压缩张绣所部的生存空间。
但曹操彻底解决张绣的心情很迫切，不仅因为有仇要报，而且不把卧榻旁边的这只虎除掉，他睡觉都不觉得安心，所以曹操亲自率军继续追击，对穰县发起了进攻。
张绣顶不住，急忙向刘表求援。正如荀攸分析的那样，刘表可以坐视张绣被消耗，却无法置其被消灭于不管，刘表立即派兵北上驰援张绣。没有确切记载刘表派了多少人马前来，但一定不少，动了老本。
刘表的人马不仅有来驰援穰县的，还分出一些去占领穰县周围的一些战略要地，其中有支人马占领了一个叫安众的地方。当时没有多少人关注这个细节，因为穰县才是焦点。
穰县城里的张绣迎来了刘表的援军，士气大振，曹操攻城遇阻。
张绣在城里做着长期守城的准备，按照眼下的阵势，曹军想攻破穰县，一时半会儿做不到。果然，张绣接到报告，说曹军退兵了。
张绣害怕曹操使诈，下令先不要贸然去追。但曹军撤得很迅速，一路向北而去，张绣看看不像有诈，于是大着胆子追了上来。这的确不是曹操使的诈，曹操下令回师是真的，因为许县大后方出了问题。听说曹军主力南下，田丰劝袁绍趁机袭击许县，将献帝抢到自己这里来，袁绍那边有人叛逃到曹营，提供了上述情报。
曹操接到情报后认为事关重大，不敢有丝毫迟疑，即刻北撤。这件事很蹊跷，可以猜测的是，要么田丰真有此议，而袁绍确实准备发兵袭取许县，要么是袁绍造的谣，目的是不让曹操太顺手。当然还有一种可能，这是贾诩的计策，为了解穰县之围故意制造谣言。不过曹操在做出回师决定时一定是有充分依据的，如果这样看，第一种可能性应该最大。
曹军要回师许县，最快速的推进方式是走南方大道。东汉的南方大道跟东方大道、东北方大道一样，是全国交通网里的骨干线路，它起自洛阳，联结鲁阳、宛县、穰县、襄阳以及南郡的治所江陵、武陵郡的治所汉寿，走这条道就好比上了高速公路，直线距离最短，路也最平坦宽阔。
曹操现在只想火速回师以解许县之危，因此想都没有想，指挥人马沿着南方大道向北疾行，要走这条路必须路过安众。
安众此时已在刘表的手中，穰县以北仅20多里处是一片山地，地势很险要，南方大道在此穿山而过，形成了一处要塞，这就是安众。
曹操包围穰县时没有想过这么快就会撤军，所以忽视了背后的这处要点。刘表的援军恰恰发现了这里很重要，于是分重兵占领，实际上断了曹军的后路。刘表的人马进入安众要塞后，立即整修防御工事，以南方大道为轴线，以山地为依托很快建成了一条东西连绵数十里的防线。曹操率军抵达安众，突然发现过不去了，如果绕道而行，无论向西还是向东都是山区，道路不畅，费时费力不说，敌军依托有利地形更容易袭击自己。
安众防线就像一条铁链，牢牢地缚住了急于回师的曹军。张绣也指挥穰县的人马从后面杀来，曹军面临前后被夹击的不利处境，局面一时陷入僵持。
情况显然对曹军很不利，虽然人数占优势，但在有限的区域内兵力难以全部展开，在这种情况下，守着有利地形的一方更占优势，曹军陷入了所谓的死地。在此关键时刻，曹操发挥了军事上的天才想象力，指挥人马神不知鬼不觉地突破了看似牢不可破的安众防线，并且基本上没有什么损失。
曹操是怎么做到的？这一点史书没有详细解释。曹操此前曾给荀彧写了封信，说只要到了安众，必然能打败张绣，后来果然把张绣打败了。回师后荀彧见到曹操，讨教破敌的办法，曹操的回答是：“兵法说‘归师勿遏’，而敌人非要阻挡我们的归师，并且跟我们争夺死地，我所以知道他们必败。”
但这番话等于没说，不是所有的归师都能打胜仗，也不是在所有的死地里都能起死回生。其实，曹军之所以化险为夷，是因为他们采取了敌人想象不出的作战方式，这就是地道战。
曹操白天与敌人对阵，晚上悄悄地在最险要的地段挖掘地道，这项巨大工程估计颇费时日，绝不是一夜之间可以完成的。曹军到达安众时是5月，回师到许县荀彧向曹操讨教破敌秘密的时候已经是7月了，这从侧面印证了安众地道挖掘工程量的巨大。
最后，曹军的工兵部队以顽强的毅力挖通了安众防线，曹操指挥人马趁夜遁去。
天亮后，张绣吃惊地发现数万曹军一夜之间不见了踪影。
侦察之后才发现，曹军已从地道里越过了他们精心构筑的防线，张绣立即下令追击。贾诩过来劝张绣不要追，否则必然失败。张绣不听，指挥所部人马以及刘表的参战部队全军压上，沿着曹军撤退的路线追击，但是吃了败仗。
他们还没有追上撤退的曹军，却先后迎面遇上了曹军新投入战场的两支生力军，这两支人马不约而同挡住张绣、刘表联军，上来一顿猛打，把张绣、刘表联军打得大败而回。
这两支人马，一支由曹仁带队，一支由李通率领，他们倒不是商量好的统一行动，而是碰巧遇到了一起。曹仁没有随曹军主力行动，曹操派他肃清宛县附近几个县的残敌，而李通驻守在南阳郡以东的汝南郡，是曹军距此最近的部队。这两支人马都是得知曹军主力被阻于安众防线而前来解围的。赶到时，正好遇着曹操率大队人马从地道里钻出来仓促北撤，所以当张绣的人马杀过来时，正好与他们相遇。
追击不成损失不小，张绣很后悔。谁知贾诩这时又过来，力劝张绣立即再追，张绣以为听错了：“当初没听您的话，结果打了败仗，现在都这样了，为什么还要追？”贾诩分析说：“现在敌情出现了新变化，去追一定能取胜。”
张绣抱着将信将疑的想法派人追击，这一次竟然打了胜仗。事后张绣请教贾诩胜败的原因，贾诩说：“曹军开始退却，但曹操必然会派精兵断后，我们追击肯定失败。打败了我们的追击，他们又会轻军前进，没有料到我们会再来，所以我们就能取胜。”张绣听了，简直佩服得要命。
曹操再征张绣，居然又遭失败，在曹操的军事生涯中，这还是绝无仅有的事。曹操回到许县，对荀攸感慨地说：“没有听先生的话，才造成今天的结果呀！”言语之间，对一再败于南阳郡十分后悔和无奈。
曹操从南阳郡回师，并没有看到袁绍来袭。
这有两种可能，一是袁绍压根没有这样的打算，前面放出的风声只是虚晃一枪；二是曹操的迅速回师让袁绍失去了最佳进攻时间，所以放弃了奇袭许县的计划。但是连一个名不见经传的张绣都打不过，曹操的心情很沮丧。更为要命的是，这种情况滋长了某些人的骄傲情绪，认为曹操不过如此，比如袁绍。
袁绍一直对曹操把献帝接到许县一事耿耿于怀，去年他曾给曹操写过一封信，以许县地理位置偏僻、地势低湿为由，要求曹操把献帝迁到兖州刺史部的鄄城，这里虽然还属于曹操的控制区，但距袁绍的控制区只隔一条黄河，袁绍的用心很明显。曹操当然拒绝了袁绍的提议，这次南征回来，他又接到了袁绍的信，不仅旧事重提，而且流露出对曹操的不尊重。曹操看了大怒，以至于行为都有些失常。
当时大家不知道原因，还以为是因征讨张绣失利造成的，所以都觉得着急，老朋友钟繇就此事去问荀彧，荀彧说：“曹公是一个深谋远虑的人，对于既往之事不会过于放在心上，现在必然是因为别的事。”
荀彧于是来见曹操，询问缘由，曹操出示了袁绍的来信：“我真想讨伐这个不义的人，但是力量不够，你说该怎么办？”
针对曹操提出的问题，荀彧其实早有考虑，他说了一段很长的话，认为曹操在用人、度量、谋略、法令等方面都超过袁绍，袁绍再强大也没有用。曹操不是一个爱听奉承话的人，但荀彧所说的都不是虚言，荀彧在袁绍身边待过，对袁绍的了解还是比较准确的，郭嘉后来也向曹操谈了相似的看法，曹操心里的阴云散去了一大半。
落实到具体对策上荀彧和郭嘉的意见非常一致，他们都认为应当把南阳郡的事放一放，先取吕布。荀彧认为如果不先取吕布，那么以后要解决袁绍相当困难。郭嘉认为袁绍正北击公孙瓒，可以趁着他主力远征时东取吕布。如果失去这个机会，等到袁绍发起进攻时以吕布为外援，那就太危险了。
曹操同意他们的看法，但心里有一些顾虑：“我比较担忧关中方面，如果关中处理不好，羌人、胡人加上南面的益州就会与袁绍、吕布等人联合起来，到那时我们将四面都是敌人，虽然据有兖、豫二州，却也顶多只占天下的六分之一而已呀！”就此荀彧有自己的看法：“关中地区目前大的割据势力有十几支，彼此互相不服，其中韩遂和马腾最强。他们看见关内相争，必然各自拥兵自保。现在如果主动联合他们，示以恩德，和平的局面虽然不能维持太久，但也可以坚持到整个关东地区平定之后。”荀彧的分析正切中要害，很有说服力，让曹操心中顿时亮堂起来。
荀彧推荐钟繇出镇关中，曹操同意，于是辞去自己兼任的司隶校尉一职，让钟繇以侍中的身份兼任司隶校尉，持节督关中各军，授予钟繇遇到有些问题可以先处理再上报的权力。钟繇不仅是个书法家，而且属于实干型人才，他有胆有识，沉着勇毅，他到达关中时，当时活跃在关中一带的割据势力除段煨、李傕外还有很多股，其中马腾、韩遂的势力最为强大，钟繇给他们写信，表明利害，劝他们忠于朝廷。经过对形势的分析，马腾、韩遂选择了向许县朝廷靠拢，他们各送一名儿子到许县作为人质，以表明自己的忠心。