就在曹操准备向吕布动手时，吕布那边的形势也发生了变化。
这两年，刘备一直驻守在小沛，但他并不甘心给吕布当盾牌，刘备趁着别人都在忙活的时候，自己一直悄悄埋头扩充势力，他对外宣称只有几千人马，其实至少发展到了万人以上。
这还不是最让吕布担心的，据情报说，刘备私下里跟袁绍和曹操来往密切，当时袁绍和曹操的关系已经由微妙转为紧张，但刘备跟他们都保持着来往，刘备给袁绍秘密写信，又派人到许县跟曹操拉关系。
这些情况很快得到了证实，献帝的诏书下达，把刘备之前的平东将军升为镇东将军，这个职务此前是一直由曹操担任，说明曹操对刘备很看重，当然也是对吕布的牵制。吕布和刘备之间虽然没有明确的上下级关系，但小沛是吕布让给刘备的，豫州刺史也是吕布让的，刘备的架势是想撇开吕布独立发展，这让吕布极为不快。但仅就这一点还不能跟刘备翻脸，因为这等于给曹操难看，吕布现在需要曹操的支持。
可是，随后又发生了更让吕布不爽的事。在讨伐袁术时被吕布临阵策反的韩暹、杨奉二人自恃有功，在吕布的地盘上总闹事，为了打发他们，吕布让二人向豫州、兖州和青州方向发展，打下地盘都归他们。这二位便率领部下离开了徐州一路向北连杀带抢，激起了不少民愤。抢着抢着，就到了刘备的地盘上。刘备原来只驻扎在小沛，但近来已经悄悄地把手伸得很长，不仅豫州刺史部沛国北部几乎尽归其所有，而且还伸向了相邻的地区，韩暹和杨奉大概没打听清楚，或者明知是刘备但没把他放在眼里，所以来到这里照抢不误。
刘备没去找吕布告状，他想自己解决。刘备假意约杨奉相见，杨奉还以为请他喝酒，就去了，结果让刘备抓了起来。刘备用杨奉作人质很快瓦解了杨奉的人马，韩暹失去杨奉的支援成为孤军，他想带着残余武装回并州老家，结果走到一个叫杼秋的地方，被当地一个叫张宣的屯帅所杀。
有组织有纪律叫团队，有组织没纪律只能叫团伙。
刘备没费太大损失就解决了韩暹和杨奉，得到了很大实惠，为了给吕布一个交代，刘备主动给吕布写了封信，信中对吕布说白波贼头领韩暹、杨奉二人流窜至豫州，沿途烧杀抢掠，民愤极大，更为可气的是，他们干了那么多坏事，还打着您的旗号，说是您让他们干的，这是公然对您的造谣污蔑，为此我就把他们收拾了，既为民除害，又帮您洗刷了清白。得了便宜没啥，还要卖乖，就可气了。
这件事还没完，又发生了一件事，更气人。建安三年（198）春天，吕布派人到河内郡一带买马，吕布擅长骑兵作战，但兖州、徐州一带不产良马，无法在当地补充，他只有派人到外地买马。吕布派去买马的人回来时路过刘备的防区，结果让人抢了。
在吕布看来，这件事不用动脑子就知道是谁干的，敢抢飞将军的马，只有刘备有这个胆。吕布决定对刘备不再忍耐，直接惩罚。吕布命张辽和高顺带队出征，他在下邳做后援，但战事并不顺利，刘备一不认错，二不投降，坚守小沛，一时难以攻克。
这个时候，二人大概都会第一时间给曹操写信，刘备是求援，吕布则解释为什么要收拾刘备。曹操如果接到他们二人的信，只会扔到一边，是非曲直不重要，重要的是两个对手自己先干起来了。吕布亲自率军增援张辽和高顺，小沛城里的刘备有点儿吃不消了。正在这时，刘备接到报告说有一支曹军向小沛开来，顿时感到了希望。
可能在刘备看来，曹操一定会救自己，因为他刚被曹操任命为镇东将军就被吕布消灭了，这种“打狗不看主人”的做法如果视而不见，将会产生对曹操不利的连锁反应。刘备的判断是正确的，眼看刘备快要被吕布消灭，曹操决定派一支人马过来增援他。吕布有点儿紧张，但随后探明来的不是曹操本人，而是他的老对手、“独目将军”夏侯惇，而且只有几千人，吕布才松口气。吕布命高顺在半道伏击夏侯惇，夏侯惇战败，退回。
刘备彻底失望，趁夜突围，小沛被攻克。刘备逃得很狼狈，只带着关羽、张飞、赵云以及麋竺等人和少量人马，自己的两位妻子甘氏和麋氏都没来得及带上。
建安三年（198）10月，曹操亲自率大军赶来了。
曹操行进到与沛国西面相邻的梁国时，遇到了刘备。刘备这才见到了真正的救星，一见到曹操，就力劝他一鼓作气杀往徐州，把吕某人彻底消灭。曹操既然出动，也不会空手而归，他在南阳郡连输了两次，需要来一场胜利提振士气。
但是如何处理刘备，曹操有些犹豫。当时劝曹操借机杀了刘备的大有人在，比如负责兖州刺史部事务的大胡子将军程昱就劝他：“刘备此人有雄才，而且很会赢得民心，终究不会甘居人下，应该早点消灭他。”曹操想了想，没同意：“方今正是收天下英雄之时，杀一个人而失天下英雄之心，不能这样做呀！”曹操不仅接纳了刘备，还以献帝的名义正式任命刘备为豫州刺史。
对刘备而言这项任命来得太迟了，因为他已先后两次就任该职，但对朝廷而言，做出这项任命已经算破例了。献帝东归以来，对这些年各地自行任命的官职一直采取不承认态度，当初曹操握有整个兖州，朝廷可以承认他的实力，拜他为镇东将军，但对于他希望得到的兖州牧一职，朝廷拖了很久才给。
曹操命刘备率领他的残部随军行动。
对于曹操下一步的进攻重点，吕布的判断是下邳而不是小沛，所以下令把主力快速南撤。梁国与下邳国之间隔着一个彭城国，吕布把主力分成两部，一部分部署在下邳城周围，一部分部署在彭城国境内。
吕布亲临前线，动员大家誓死保卫彭城。但是曹军似乎更有信心，打起仗来也很有章法，根本不跟吕布硬拼，而是在运动中寻找战机，曹操人多势众，吕布处于被动挨打的局面。
吕布产生了撤退的想法，想依托下邳城的坚固，放曹操来攻。吕布大概想，曹操不敢在徐州停留时间太长，南面的张绣、刘表，北面的袁绍，还在近旁的袁术，对曹操来说哪一个都比他重要，只要守得住，曹操必撤军。但陈宫认为应该把防御重心放在彭城，理由是彭城境内地势更有利，便于同曹操大军周旋，他建议应当改变固守挨打的局面，分出多路奇兵袭扰曹军两翼，尤其是他的后勤补给线，曹军人马数万，拼人多是他的优势，但后勤保障就是他的劣势，一旦粮草供应不上，曹军不战而退。
应该说，陈宫是对的，吕布应该学学张绣，论名气张绣顶多是个小字辈，因为吕布跟他叔叔张济可以称兄道弟，论实力张绣还不如吕布，但张绣能把曹操打败两次，而且败得一次比一次惨。吕布似乎忽略了这些，忽略了张绣以弱胜强靠的是什么，固执地认为坚守才对自己有利。吕布下令主力撤回下邳一线，彭城随即被曹军攻克。
撤回下邳后，吕布方面士气十分低落。陈宫提出拒敌于外，在运动中歼敌，他认为曹操的大军必须经过泗水，可以依托泗水河组织防线，阻击曹军的进攻。
吕布不同意这个看法，泗水那么长，如何在沿线都组织起有效防线来？待敌兵渡河至一半时发起攻击岂不更有效？大概吕布也经常研究兵法，《吴子》讲到有十三种最佳的进攻状况，敌人渡河到一半时就是其中一种。《孙子兵法》也讲“敌人渡河来攻，不要在水里跟他打，等他们渡河到河中时再攻击”，所以吕布没听陈宫的建议，而是集重兵于泗水河边曹军必经之处，待曹军主力渡河时先不对其发起攻击，待其渡至一半再突然攻击。
可是，吕布又错了。曹军来了，开始渡河，吕布下令攻击，千弩怒射，万箭齐发，曹军纷纷中箭，有被射死的，有溺水而死的，曹军大败。但是所谓大胜必经大忍、大败常因心切，吕布还没来得及庆祝，突然接到报告说曹军主力已经从南边过了河，正朝下邳杀去。
吕布大惊，才知道上当了，这里的曹军只是诱饵，敌军主攻方向不在这里。兵法是一门高深的学问，相对于公认的兵法研究权威曹操，吕布只能算兵法爱好者，知其一不知其二，不如不知。
吕布赶紧下令撤军，拼命往下邳城赶。还算好，吕布先一步进了城。喘息未定，让吕布更闹心的事传来：陈登反叛了。