这时已经过了年，远在长安的献帝下诏改年号为兴平。
兴平元年（194）春天，曹操结束了为期近半年的第一次远征徐州之战回师鄄城，陈留郡太守张邈亲自到州界迎接他们凯旋，想到出征时未卜生死、以家室相托付的情景，两位老战友不禁很动容，都流下了热泪。
看到这种情形的人，肯定会为两个人的深厚友谊所感动，但大家不知道的是，曹操的眼泪是真的，张邈的眼泪却很勉强。不久前，曹操还在徐州浴血奋战时张邈偷偷地见了吕布，在陈留郡吕布受到了张邈的热情款待，他们谈得很投机，但谈话内容谁也不清楚，只知道等到吕布要走的时候二人已经有点难分难舍了，还秘密约定了什么。
作为知名度很高的敏感人物，吕布没有在张邈那里久留，他离开陈留郡后去了哪里也不太清楚，可能暂时投奔了张杨，也可能四处打游击，他在等待着和张邈约定的那件事。
哪件事？当时谁也不知道。曹操回到鄄城，还没有来得及好好休整一下，突然接到了袁绍的一道密令，让他杀了张邈。曹操、张邈都是一个阵营里的，袁绍是他们的首领，袁绍下达这道密令，不仅突然，而且很奇怪。表面上的原因可能是袁绍听说吕布来过张邈这里，二人有密谋，所以让曹操除掉他。
还有一点，张邈和袁绍之间最近关系也很紧张，张邈有侠士性格，比较仗义，曹操当年只身来到陈留郡，如果没有张邈的帮助什么都做不成，张邈待曹操很仗义，只要是朋友，帮人就帮到底，这与韩馥等人形成了鲜明对比。但张邈又是个直脾气，张邈很欣赏臧洪，原因就是在这方面二人脾气相投，都属于敢恨敢爱也敢说的人。袁绍当了盟主后流露出骄傲自满，张邈心直口快，说过他，让袁绍在众人面前下不了台，得罪了袁绍，袁绍很不高兴。
基于以上两个原因，袁绍给曹操下达那样的密令也是可能的。
但这还不是更深层次的原因，袁绍要杀张邈，除了对张邈的不满，也有向曹操下手的意味，有一箭双雕的考虑。
凡是同盟，一般都不希望对方太弱，但也不希望对方太强，太弱帮不上忙，太强则不好控制，袁绍看曹操和张邈，就是这样的心态。曹操和张邈替袁绍缓冲着南线袁术、陶谦造成的压力，让袁绍在北面可以放手与公孙瓒作战，这一点他很满意。
但是近一段时间以来，曹操和张邈的势力发展得都很迅猛，尤其是曹操，先得了东郡，继而又得了几乎整个兖州刺史部，陶谦那样的猛人都被他打得抱头鼠窜，差点全军覆没，照这样发展下去，徐州刺史部迟早也是曹操的。还有张邈也不一般，他虽然只是个郡太守，地盘也只限陈留郡，但号召力很强，又善于找机会，别人都在大打出手时他一直埋头扩充实力，据陈宫在一次谈话中透露，此时张邈已拥有“十万之众”，这个数目可能有水分，但即使打个五折那也相当可观了。
按照这样的分析，袁绍突然密令曹操杀掉张邈，动机就不一般了，要解决张邈不是派几个人到张邈办公室亮一下逮捕证就能把人带走的，先得解决掉张邈的“十万之众”。袁绍的这道密令说白了就是让曹操和张邈火并，无论最终谁胜都将两败俱伤，两个人正在上升的势头都将中止。
袁绍肯定想过曹操未必会接受他的这道命令，不是曹操不忍心下手，而是曹操识破了他的阴谋，同时也不会认为自己有吃掉张邈的把握，但没有关系，袁绍还有一手，他把给曹操的密令故意泄露出去，闹得社会上沸沸扬扬，目的是让张邈知道，这个直筒子不像曹操那么有城府，说不定会先动起手来。
这样狠的招袁绍自己未必想得出来，但此时他手下云集了许攸、审配、逢纪、荀谌等策反专家兼忽悠高手，想出这样的计策来并不费劲。曹操果然置之不理，但不幸的是张邈中招了。
曹操对张邈的看法很单纯，张邈对曹操的感情却是复杂的。
从朋友的角度看，张邈跟曹操的关系处得不错，张邈比较讲义气，够朋友，对曹操也多有帮助，二人不说两肋插刀，至少也互相敬重。曹操托付卞夫人自己一旦出事就去投靠张邈，这种以家室相托的情谊不是假的。
但曹操来到兖州后跟张邈在地位上出现了反差，过去曹操在张邈的帮助下才有了立足之地，在张邈眼里曹操不说是他的下属最少也是平级，但很快曹操就出任了兖州牧，成了他的顶头上级，张邈心里多少有些不是滋味。
张邈与袁绍的矛盾逐渐公开，在张邈眼里曹操和袁绍的关系一直很铁，现在已经有了不少风言风语传到张邈耳朵里，张邈担心曹操顶不住袁绍的压力，迟早会向自己动手。张邈为了自保，产生了向曹操先动手的念头。
张邈的想法得到了陈宫的支持，作为兖州本土派人士的代表，陈宫当初力推曹操为兖州牧，想的是引进一个强人来保卫自己的家乡。曹操确实是一个强人，袁术被他打败，陶谦也不是他的对手，但陈宫并不喜欢，因为曹操不仅是强人，而且太招事。
曹操就任兖州牧以来就战事不断，袁术打上门来当然该还击，但打跑就行了，干吗还要追？陶谦挑事，把他拒于州境之外也就行了，干吗要深入徐州上千里，打到陶谦的家门口？这样的战略不符合兖州本土派的利益，陈宫在心里坚决反对。
前线一开打，后方就得供人、供粮，曹操让陈宫在后方搞后勤，陈宫感到给家乡人民造成的负担很重，思想压力很大。曹操打仗为的是他自己的事业，干吗让兖州人为他埋单？陈宫想不明白。
陈宫也逐渐坚定了一个决心，一定要把曹操赶走。张邈害怕袁绍和曹操加害自己，陈宫一心想把曹操赶走，二人一拍即合，他们的预谋或许开始的时间更早，甚至在曹操征徐州归来垂泣相对时已经有了，吕布的陈留郡之行就是这个预谋的一部分。
兴平元年（194）春天，曹操再次南征徐州。
鉴于上次征徐州时虽打到郯县城下，却没有力量组织攻城，致使整个行动没有达到预期目标，这次再征徐州曹操做了大量的准备工作，他不仅将能抽调出来的人马悉数带上，而且向冀州的袁绍请求增援。袁绍倒也爽快，派朱灵率部前来听曹操指挥。
朱灵字文博，冀州刺史部清河郡人，后来成长为曹军中的名将，他这次带来的有三营人马。当时正规军编制一般有部、曲、屯、队、什、伍六级，没有营。朝廷中央军之一的北军有五营，每营大约有1000多人。如果袁绍派来的援军是参照北军进行编制的，三个营应该是四五千人吧。
曹操留下夏侯惇、荀彧、陈宫、程昱等人率不多的守军留在兖州，其他人都随他出征。曹操和手下大多数人的家眷都在鄄城，由荀彧、程昱留守；夏侯惇驻守在黄河上的重要渡口和战略要地濮阳；陈宫负责处理地方日常政务，并督办粮草，为前线提供后勤支持。
在曹仁的建议下，曹操这次改变了主攻方向，派小部分人马由兖州刺史部的济阴郡、山阳郡向徐州刺史部的彭城国、下邳国方向佯攻，而主力部队绕道泰山郡，攻击徐州刺史部北面的两个郡国，即琅邪国和东海郡，陶谦的大本营郯县就在东海郡。
这个进攻路线和上次刚好相反，上次偏师在东、主力在南，这次偏师在南、主力在东。这样的进攻路线可以避开陶谦重兵把守的彭城防线和下邳防线，攻击其相对薄弱的北部地区，并且可以直捣其大本营，令陶谦措手不及。
曹军还会进攻，这一点陶谦想到了。
但哪个方向是主攻，陶谦却猜不出来，上次搞错了敌人的主攻方向，结果吃了大亏。每遇大事陶谦都要先问问他手下的著名佛教徒笮融，陶谦把笮融找来，问他这次曹军会从哪个方向主攻，笮融煞有介事地说要问问佛，结果昏天黑地弄一通，告诉陶谦说，曹操会从北面来。陶谦深信不疑，把重兵摆在了徐州刺史部北部的彭城、下邳一线，结果又吃了亏。
曹军主力突然从东面的泰山郡杀出，防守在徐州刺史部北部的陶谦主力始料不及，琅邪国的五座城池先后被曹军攻占，曹军攻下这几个地方以后大搞破坏活动。陶谦赶忙调集人马，准备应战，同时派人给刘备送信，让他火速增援郯县。
上次保卫郯县的战斗结束后刘备没回青州，而是留了下来，陶谦表奏刘备为豫州刺史，增派了4000名丹阳兵给他，让他驻扎在小沛。小沛是汉代对沛县的别称，即今江苏省沛县，当时属豫州刺史部的沛国。这里虽然与徐州刺史部的彭城国近在咫尺，却是豫州刺史部的地盘，这让刘备这个豫州刺史倒也多少有些实至名归。陶谦对刘备如此优待，甚至不惜拿出自己最嫡系的家乡兵补充刘备的实力，做的不是亏本的买卖。陶谦看中的是刘备的能力，从而对他寄予了厚望，希望他能替自己抵挡曹操。
小沛的位置很微妙，它属于豫州刺史部的辖区，却远离豫州刺史部的中心地带，像一把剑插在了兖州刺史部和徐州刺史部的中间。陶谦又送官又送人，说白了就是想让刘备给他当盾牌，曹军一旦来攻，自己好有一个缓冲区。刘备屯驻小沛期间纳本地人甘氏为妾，他的正妻名字无考，只知道他的几任正妻都死了，并且他的生育能力好像也有问题，至少到现在也没有儿子，甘夫人后来到荆州后给刘备生下了后主刘禅，刘备称帝后封她为皇后。
现在，曹操率军从琅邪国攻入东海郡，直逼郯县城下，而刘备率所部也从小沛赶到了，陶谦命手下将领曹豹率军出城与刘备会合，在郯县东郊与曹军展开激战。战斗在郯县附近的沂水两岸展开，虽然对于这场战斗没有留下更多的文字记载，不过仍然可以推测出双方的参战阵容：曹操方面应该有曹仁、曹洪、曹纯、夏侯渊以及还是基层军官的史涣、典韦、乐进等人；刘陶联军方面，应该有关羽、张飞、赵云以及陶谦的部将曹豹等人。
曹操和刘备亲自指挥了这场战斗，以后他们直接交手的战斗或战役还有很多场，像大多数情况那样，胜利的一方属于曹操，曹军占领了距郯县以东仅40里的襄贲。
有了落脚点，曹军攻打郯县更方便了。困守在郯县城里的陶谦日子很难过，让人找笮融来问问这是怎么回事，下面的人回来报告笮融早已不知去向，陶谦气得要死。派人一查，发现笮融前几天已经领着手下人以及平时的信徒共1万多人逃往广陵郡。陶谦气得要命，却又无可奈何。
眼见曹操大兵压境，陶谦也想一走了之，他想学笮融，撇下徐州不管了，溜回丹阳郡老家养老去。