在贾诩的谋划下凉州军重新集结，在李傕、郭汜、张济等人率领下浩浩荡荡向长安杀来。
李傕等人从陕县出发时也只有三四万人，但大军一路行进，不断有凉州军旧部加入，樊稠、李蒙等凉州军将领也闻讯率部赶来，人马越聚越多，到达长安时已经超过了10万人。各地的凉州军旧部本来都准备散伙，听说有人挑头讨伐王允，自然跟来了。凉州军一到长安城外，立刻把城围了起来，看到这阵势，王允傻了。
王允这才想起和谈，他派胡文才、杨整修出城去见李傕等人，捎话给凉州军，只要撤兵一切都好商量。但是晚了，李傕等人看到手下有了这么多人马，心里想的就不再是自己如何活命，而是想要别人的命。而胡文才、杨整修二人一见到李傕，不提和谈的事，反劝李傕他们加紧攻城，告诉李傕城里的防守兵力很有限。凉州军挑战，王允派胡轸和徐荣出城迎敌，不出所料的是，胡轸投降，徐荣战死。
凉州军继续攻城，皇甫嵩以全国武装部队副总司令（车骑将军）的身份主持守城事务，吕布协助他。长安也是京城，城墙相当厚实，攻起来并不那么容易，但凉州军好像发了疯似的，死多少人都不在乎，非攻下来不可。
他们个个嘴里嚷着为董太师复仇，其实大家心里最清楚，城里有粮食，有大量的财宝，仅收缴董卓的财宝就数不清。而粮食更重要，董卓被杀后李傕等人就断了供应，凉州军将士现在都饿得很。
打开长安城，一切都有了。
皇甫嵩是一名有经验的老将，在他的指挥下，守城将士打得还算顽强，王允不断给大家鼓劲：“顶多坚持一个月，关东方面的援军准到！”但是只守了八天，城里就出现了叛军，长安城被攻破。
叛变的是叟兵，叟人是西南的一个少数民族，叟兵以打仗勇猛而著称，这支叟兵人数有1000多人，是益州牧刘焉派来协助朝廷的，董卓执政时他们就来了，董卓死后，他们归朝廷指挥。
叟兵打开东门，凉州军杀入长安城。城破时吕布带着几百名骑兵杀出城去，这一行人里应该有张辽、高顺等人。吕布临走时不忘把董卓的人头挂在马鞍上，这个东西他见着袁术、袁绍时还用得上。路过青琐门，吕布看到了王允，招呼他一块走。王允不想走，慷慨激昂地说：“如果社稷有灵，可以保佑国家平安，这是我最大的愿望。如果这个愿望无法实现，我愿意为此献出生命！”王允让吕布带话给关东联军的诸位首领：“天子现在还年轻，现在都依靠我。灾难来时我只顾自己逃命，实在不忍心啊！你见到关东联军的各位同人，一定要勉励他们时刻不能忘了皇上！”
吕布只得自己逃命，李傕、郭汜率兵攻到未央宫南宫掖门，在这里杀了太仆鲁馗、大鸿胪周奂、城门校尉崔烈、北军越骑校尉王昕等朝廷高官。长安城里，凉州军见人就杀，见东西就抢，官民死了1万多人，在当时这是一个很大的数字。
街道上到处是尸体和烧抢的痕迹，一片混乱。王允扶着吓坏了的献帝登上宣平门，李傕等人来到城门下，伏地叩头，献帝打起精神，勉强对李傕等人喊话：“你们放纵士兵，想做什么？”李傕等人回答：“董卓忠于陛下，而无故被吕布所杀，臣等为董卓报仇，不敢造反，请求的事批准后我们自会到有关部门请罪！”凉州兵围住楼，非要让王允出来对话，他们大声质问：“董太师犯了什么罪？”王允无法回答，只好下了城楼。
凉州军重新控制了朝廷，李傕胁迫献帝任命自己为扬武将军，郭汜为扬烈将军，樊稠为中郎将。三个月后，李傕升任车骑将军兼司隶校尉，郭汜、樊稠分别升任为右将军和后将军，他们共同主持朝政。张济也升任骠骑将军，按说这个职务高于李傕的车骑将军，但他似乎受到了排挤，率本部出屯潼关以东的弘农郡一带。
和凉州集团关系密切的西部割据势力首领韩遂、马腾等人听说长安大乱，也带兵前来凑热闹，想浑水摸鱼。他们只得任命韩遂为镇西将军，让他驻扎在金城，即今甘肃省兰州市，任命马腾为征西将军，驻扎在董卓昔日苦心经营的大本营郿坞附近。
对朝廷里原有的大臣，李傕等人分别对待，有的留任，有的被杀。前车骑将军皇甫嵩因为有巨大的声望，凉州军不敢动他，改任他为太尉。不久，皇甫嵩因病去世，朝廷追赠他为骠骑将军。赵谦被任命为司徒，接替王允，马日䃅仍为太尉，杨彪担任了司空。而王允及其追随者，则被李傕等人杀了。
为凉州军立下大功的贾诩被拟任为左冯翊太守，并且准备给他封侯，被贾诩拒绝了，贾诩大概很清楚，自己出的一个主意虽然是为保命所迫，但带来了严重的后果，他哪里敢再以此居功。贾诩自愿到尚书台任职，李傕想任命他当尚书仆射，贾诩又推辞，他最后只担任了尚书，开始慢慢和凉州军那些将领们拉开了距离。
吕布出了长安，从武关道逃往南阳郡方向，在南阳郡的宛县吕布见到了袁术。吕布认为自己杀了袁氏的仇人董卓，理所应当接受袁术的谢恩，但袁术是个从来不做赔本生意的人，看在杀了董卓的面子上对吕布等人倒给了个好脸，但时间一长也不再待见他们，吕布向袁术要粮要钱，袁术说没有。
吕布不高兴了，不给就抢，在他的纵容下，手下的人故意在袁术的地盘上闹事，袁术不是省油的灯，他最喜欢玩的是“空手道”，善于做无本买卖，之前就是这样对待孙坚的，孙坚死后袁术顺利地兼并了他的人马，尝到了甜头。
袁术也拿这一招对付吕布，你敢闹事，我就暗地里策反你的人，吕布还真玩不过他。吕布在南阳郡待不下去了，只好走人。
离开袁术，吕布去依靠的人是张杨，他们过去都在并州军共事，是好朋友，张杨现在拥有河内郡太守的正式头衔，同时还是朝廷任命的建义将军。张杨此时表面上依附于袁绍，又与活跃在这一带的黑山军、白波军以及南匈奴都有来往，相当于结成了一个松散联盟，他们相互呼应，在诸强争霸中争取各自的生存空间。
吕布到了河内郡，见到了张杨，张杨是个念旧情的人，尽管自己也有困难，但还是收留了吕布一行。
河东郡离长安太近，吕布到来后，大概他们也听到了风声，他们对吕布恨之入骨，一直在通缉他，就给张杨发了一道悬赏捉拿吕布的诏令。张杨的手下看到长安那边开出的赏金很高，就想把吕布杀了换赏钱。吕布提前知道了消息，有些害怕，找了个借口离开了河内郡。
吕布无奈，把周围看了半天，最后觉得投袁绍也许是条出路。
吕布到冀州去投袁绍，此前不久袁绍刚刚跟公孙瓒打了一场大仗，这就是界桥之战。袁绍独占冀州后引发公孙瓒的强烈不满，总想找机会讨个说法，初平三年（192）春天双方在界桥打了一仗，论实力公孙瓒在袁绍之上，但袁绍指挥得当，反将公孙瓒打败，公孙瓒的白马义从从此在疆场上消失。
从内心来讲，袁绍也不大喜欢吕布，牌子倒了，政治信誉没了，谁都不待见。但袁绍对吕布的到来还是给予了十二分的热情欢迎，不是他一向喜欢报恩，而是他对吕布正有所需。界桥之战虽然取胜，但没有彻底打败公孙瓒，公孙瓒退往幽州，双方仍然势均力敌，从冀州刺史部北部、幽州刺史部南部直至东边的青州刺史部一线，双方的争夺全面展开。
阵线自西向东一字排开，哪一边都吃着劲，不容丝毫松懈，好比两个人摔跤，膀子扣着膀子，脑袋顶着脑袋，脚底下也都使着绊子，谁也拿不下谁。如果这个时候突然再出现一个人，朝着其中一人的肋下突然出拳，那是什么效果？这一拳不必太猛，不用太狠，由于出的是时机，打的是地方，也足以立分胜负。袁绍很不幸，公孙瓒率先找来了这样的帮手，给袁绍的左肋上打出了一拳。
袁绍的左翼是太行山，在这一带山区最有实力的要算张燕的黑山军，他们算是黄巾军的余部，在孙公瓒的策动下，黑山军公开支持公孙瓒，从侧翼向袁绍发起进攻。以黑山军的实力把袁绍彻底打败不太可能，但他们擅长游击战，又占据着绝佳的战略位置，频频出动，对袁绍进行袭扰，袁绍不胜其烦。
袁绍也集中兵力打了几次，试图把黑山军消灭，但黑山军利用太行山河谷纵横的特点，不进行大兵团对决，以游击战进行袭扰，打得过就打，打不过就逃进山谷，袁军成效不大。
袁绍还不能把兵力都用在这个方向，所以苦恼不已。吕布的到来让袁绍大喜，吕布是并州军名将，“飞将”的名字已经叫开了，对付张燕应该没问题。更重要的是，太行山也是并州军的地盘，吕布擅长的也是山地骑兵作战，打运动战吕布不吃亏。
袁绍给吕布增加了一部分人马，让吕布和他的手下专门对付张燕的黑山军。张燕的主力是一支数千人的骑兵，战斗力很强，以步兵为主的袁绍也曾创造过战胜精锐骑兵的战例，但那是在双方主力的对决战中，给袁绍施展谋略留下了空间。张燕的策略是你来我走，你走我来，比谁跑得快，这样一来袁绍就没辙了。
现在换对手了，你快，上来的人比你还快；你熟悉地理，人家也都是从小生活在这片土地上的人，动起手来熟门熟路，一点儿都不吃亏。吕布让手下的部将成廉、魏越等人挑了几十个身手好的人，他亲自率领，骑上快马组成一支突击队，专门冲击敌人的核心区，一会儿闪电战，一会儿斩首行动，来如疾风，去如迅雷，无人能挡，打得黑山军直犯迷糊。
论打仗吕布确实是一把好手，尤其是骑兵作战。吕布骑的马也跟着出了名，当时大家都在传颂着两句话：“马中赤兔，人中吕布！”
张燕被打败，退入太行山深处。
袁绍侧翼的威胁解除了，吕布又为袁绍立了一大功。但袁绍对吕布只是利用一下而已，驾驭吕布这样的人，袁绍大概并不认为自己比丁原、董卓、袁术高明到哪里去，所以用完之后准备来个卸磨杀驴，还没等他实施，吕布反倒咄咄逼人起来。
吕布的老毛病又犯了，他以功臣自诩，开始向袁绍伸手要这要那。吕布向袁绍提出，他要到司隶校尉部发展，让袁绍帮他。吕布的这个建议有一定眼光，司隶校尉部是天下13个州里最核心、最重要的一个州，目前处在四分五裂的状态，尤其洛阳一带反而没人去占据，洛阳城虽然残破，但如果有人在那一带挑起头来，重新集结为一处重镇也未必不可能。
吕布不会自己去，他要袁绍帮助，就是向袁绍要人。袁绍这边公孙瓒的事还忙不过来，哪能分兵帮吕布去发展？还有一种可能，当初为打黑山军袁绍没准给吕布开出过条件，等他打败黑山军后就帮助他到司隶校尉部发展，事情办成了，袁绍又想耍赖，这种事袁术最拿手，袁绍也能干出来。
吕布的目的没达到就故技重施，放纵手下在袁绍的地盘上四处抢掠。袁绍忍无可忍，经过考虑，决心除掉吕布。这绝对是背信弃义的做法，不管吕布的既往历史怎样，毕竟人家杀了你们家的仇人，还帮你打张燕解除你的后顾之忧，怎么说都是功臣吧，不答应他的要求可以，礼送出境就行，不必下此狠手。
但袁绍还是决定要解决吕布，他假装接受了吕布的请求，表奏吕布为司隶校尉，给他拨了3000名甲士一同去上任。司隶校尉的办公地点应该在洛阳，吕布一行走的路线应该是由冀州往南经河内郡渡黄河，然后往西。
这是吕布计划走的线路，却不是袁绍的计划，袁绍没有打算把这趟旅行走得那么远，袁绍的人得到命令，在半路上干掉吕布。这些年来吕布常算计别人，所以他的警惕性比一般人高得多，他预感到袁绍会有小动作，所以提前有了准备。晚上，吕布故意让袁绍的人住在自己大帐外，半夜里让人在自己的帐中弹筝，而自己悄悄逃走。袁绍的人冲进帐中，向吕布睡的床一通乱砍，却发现没有人。袁绍得到报告，吓得够呛。袁绍担心吕布回来报复，问左右谁愿意带兵去追吕布，飞将的威名居然让袁绍手下众人无人敢应征。
袁绍越想越害怕，一度下令关闭邺县城门，严加防卫。其实吕布没打算回去找袁绍算账，他没有那个能力，也没有了那样的心气。逃出袁绍黑手的吕布更加体会到了穷途末路的含义，想了半天，发现只能再回去投奔老同事张杨。
要去张杨那里，最便捷的路径是走东方大道一直西行，如果吕布走的是这条道，现在他就首先要渡过黄河。站在黄河边的吕布，想来心情无比沮丧。吕布现在40岁左右，多年来他纵横驰骋，奋力拼杀，干的都是玩命的活，换来的却是众人的冷眼，以至于到现在都没有一块属于自己的立足之地。
吕布怀着这种低落的心情过了黄河，过河之后正要向西行，却被一伙不速之客拦下了，这些人好像是在此专门等候他的，问清是吕布本人之后，他们报上了自己的名号，原来是附近的陈留郡太守张邈的人，奉张太守的派遣专门在此迎候吕将军。
吕布很不解，他只听说过张邈的名字，知道这家伙跟袁绍关系不错，是当初关东十一路联军中的一路，但从来没跟他打过交道。张邈确实是袁绍的人，但自己是袁绍的敌人，张邈在此等候自己，一定凶多吉少，如果想到了这些，吕布应该很紧张。但等对方简要说明情况后，吕布心里又大喜，马上跟着这伙人去了陈留郡。