孙权如果知道了刘备与诸葛亮这番谈话，他一定会心里不服，因为之前鲁肃已经就此发表过见解，主要思路跟诸葛亮异曲同工。
孙权18岁接班，用了短短三年时间就让江东的面貌焕然一新，那些对他掌权并不看好的人，无论这些人是敌还是友，现在都不再怀疑他的能力。孙策留下的地盘不仅没有缩水，而且不断扩大，人马快速增加，内部也进一步理顺，没有人再胆敢从内部向他发起挑战，一批新人迅速成长起来。
从外部情况看，也都朝着有利于江东的方向发展，近年来曹操忙着北方的事，刘表胸无大志，一心守成，给江东制造了难得的战略机遇。孙权始终记得鲁肃向他提出的规划，待内部安定之后，他决心立刻向西扩张，打败黄祖、刘表，继而占领荆州。
孙权知道曹操也是这么想的，只是曹操目前还顾不上，孙权必须跟曹操、也跟时间赛跑。当然刘表、黄祖也会这么想，所以对于荆州西线的防务进行了周密部署。
黄祖当时以江夏郡太守的身份驻守西陵，即今湖北省武汉市新洲区。为了把黄祖牢牢拉住，刘表新设了一个章陵郡，任命黄祖的儿子黄射为太守，驻扎在沙羡，此处位于今湖北省武汉市以上的长江边上，黄射以沙羡为基地，控制着从沙羡到柴桑这一段江防。
为了支持黄祖父子，刘表还让侄子刘磐率兵驻扎在彭蠡以西的地区，彭蠡即今鄱阳湖，这里是豫章郡的辖区，总体上是孙吴的势力范围，刘磐东进至此，与江夏郡的黄祖、章陵郡的黄射形成三角之势，江东出兵攻击其中一部，另外两部可以策应和增援。
为了打破敌人的三角形防御体系，孙权也做了一番准备，他让周瑜以中护军、江夏郡太守的身份率一部主力进驻宫亭，此地详细位置已不可考，只知道它在鄱阳湖一带。同时，命徐盛以柴桑县长的身份驻柴桑，即今江西省九江市。为了对付刘磐，孙权让太史慈以建昌都尉的身份驻扎在海昏，此处在鄱阳湖西南面，今江西省永修县一带。
做完这些部署，孙权一直等待着发起进攻的机会。
机会很快来了，建安八年（203）8月曹操曾亲自带兵南下征刘表，这一次虽然是佯攻，但造的声势很大，曹操驻军西平，即今河南省中南部的西平县。
曹操此次虚晃一枪的目的是对刘表施压，他当时虽然一直忙北方的事，但对荆州心里并不踏实，总担心刘表趁机在他背后来一下，但分重兵布防南线他又做不到。作为出色的《孙子兵法》研究专家，曹操当然明白最好的防御就是进攻，所以他主动出击，让刘表更加不敢进犯。
刘表吓坏了，赶紧调集人马向襄阳及其北部一带布防，对孙权来说，这当然是西征的最好机会。这一年的10月，孙权集中江东精锐人马西进至扬州和荆州交界的宫亭、柴桑一带，第一次西征黄祖。
参加此战的除先期驻扎在那里的周瑜、徐盛以及驻扎在海昏的太史慈外，还有荡寇中郎将程普、讨虏中郎将吕范以及凌操、黄盖、韩当、周泰、吕蒙等部，江东精锐尽出，孙权志在必得。
开始进展得比较顺利，孙权率各部突入江夏郡，由柴桑沿江一路西上，一直抵达了章陵郡的沙羡。那时候汉水汇入长江的地方还没有武汉这样的重镇，武昌建城以及武汉三镇崛起都是以后的事，其上游不远的沙羡重要性相当于今天的武汉市，是一座重镇。
沙羡如果攻破，刘表的江夏郡和章陵郡将尽入孙吴，荆州将失去整个东部防线。为此，黄祖父子十分着急，组织人马拼死守城。
沙羡攻防战打得很激烈，孙权亲自指挥，城池仍久攻不下。黄祖本人也亲自率兵增援，双方在城里城外展开了激烈争夺。有一次黄祖被打败，孙权领兵追击，黄祖眼看凶多吉少，这时黄祖负责断后的队伍里有人射出一箭，正中孙权手下破贼校尉凌操，凌操被射身亡，黄祖趁势得以脱身。
凌操战死是此次西征黄祖之战孙吴军队遭受的最重大损失，凌操的儿子凌统时年15岁，孙权任命他为别部司马，破贼都尉，统领他父亲的人马。
孙权后来得知，射死凌操的那个人名叫甘宁。
沙羡之战至为关键，黄祖父子为了守住此城已拼尽了力气，按理说不下此城孙权不会收兵。然而孙权很快下令撤军了，原因是后方出了问题，各郡的山越趁孙吴主力西进之机同时起事。
山越，指的并不是一个特定的民族，而是一些居住在南方山区的大大小小部落的总称。据史料记载，山越先祖原来也在北方，炎帝、黄帝时居住在黄河中下游，在与炎黄、东夷部落争战中被打败，向当时尚属蛮荒之地的南部迁徙，形成众多互不隶属的部落，称为“百越”。秦朝建立后曾派大军南下平百越，虽有一定成效，但由于这些部族居住分散，山大沟深，未能完全将其纳入朝廷管理之下。
汉末时局动荡，朝廷式微，百越更成为法外之地，加上许多不满苛捐杂税和逃避战乱的人向山里涌去，百越势力不减反增，他们凭借山水险峻，在深山里形成了独立的势力，称为“山越”，主要分布于今安徽、湖南、江西、浙江、福建一带的山区，这些地方恰好是孙吴的势力范围。
所以，在群雄争霸中孙吴还多了一个额外的负担，就是得拿出很大的精力对付山越。在对待山越的态度上孙权继承孙策的做法，哪里有人挑起叛乱，就立即派兵前去镇压，孙吴的一线将领几乎每人都有与山越作战的经历。但是，军事讨伐解决不了根本问题，一旦有机可乘，各地的山越总会起来作乱，总也杀不完灭不尽。
这次山越同时起事，范围非常大，涵盖了豫章、丹阳、庐陵、吴郡、会稽等郡，来势异常凶猛，孙权不得不下达回师命令。孙权先回到了豫章郡，在那里做出军事部署，派吕范到鄱阳，派程普到乐安，派太史慈仍然在海昏，派韩当、周泰、吕蒙等分赴其他闹事厉害的郡县，全面开展平定山越的战斗。
解决完境内的山越问题，孙权又谋划西征黄祖的事，这时候甘宁突然前来投奔，增加了打败黄祖的把握。
甘宁就是射死凌操的那个人，他为黄祖立下大功，但黄祖并不重用他，甚至对他也不大尊重。黄祖手下有一个重要将领叫苏飞，很欣赏甘宁，多次在黄祖面前推荐甘宁，黄祖不听，反而派人秘密联络甘宁的部下，试图分化瓦解他们。
在这种情况下甘宁只有再走，但又担心黄祖不让，心里闷闷不乐。苏飞看出他的心思，想再帮帮他。一次，苏飞请甘宁喝酒，喝得差不多了，苏飞对甘宁说：“我多次推荐你，但上面不肯用，日月如梭，人生几何，你还是远走他乡吧，或许能遇到知己。”甘宁想了一会儿，说：“我虽然有这个想法，可不知道该怎么办。”
苏飞对甘宁说：“我想办法推荐你当邾县县长，你去那里上任，那地方是边境，到任后谁还能拦住你？”甘宁一听大喜：“太好了！”苏飞去做黄祖的工作，黄祖果然任命甘宁当了邾县县长，甘宁于是召集那些想跟他一起走的人，有数百人，投奔到了孙吴。
孙权亲自接见甘宁，对他格外优待，把他当成老臣一样看待。建安十二年（207），孙权再征黄祖，此战没有展开就草草结束了，原因不详。到了建安十三年（208）春天，孙权发动了第三次西征黄祖战役。
这次距上一次西征才不过几个月时间，之所以如此着急与北方局势有关，在孙权二征黄祖的同时曹操冒险亲征乌桓，获得大胜，完全统一了北方。孙权知道，曹操下一步将挥师南下，最有可能的是先解决刘表，之后再解决自己和刘璋。对孙权来说，与曹操直接对决的一天迟早会到来，现在能做的就是在决战之前尽可能壮大自己的力量，打败黄祖父子，占有荆州西部的江夏郡、章陵郡，就是要给江东建立起一道抵挡曹操的屏障。
孙权命张昭和吕范留守吴县，其他能带的人马都尽数带上，此次出征，更是志在必得。孙权任命周瑜为前敌总指挥（前部大督），命偏将董袭、平北都尉吕蒙、代理破贼都尉凌统为前锋，自己亲率其余各部随后跟进。这是一场硬仗，打头阵的人孙权用的全是年轻将领，而没有用程普、韩当等老将，对孙权来说这需要有些魄力才行。
这一仗打得异常激烈，对黄祖父子来说，这是保命之战，所以使尽了所有力气拼死抵抗。而吴军更勇猛，连下蕲春、鄂县、邾县等要地，沿长江一直打到了沔口。
汉水也称沔水，沔口即汉水入长江之口，也就是今天武汉三镇一带，由此上溯不到百里，就是荆州西部重镇沙羡，黄祖父子在沔口布下了一道坚固防线。黄祖父子命人在沔口的江面上横着两只大船，然后用棕榈大绳系石为碇，把船固定在江中。在这两只船上有上千人，他们手持弓弩，飞矢雨下，吴军不得近前。前锋董袭和凌统各率100人的敢死队，每人穿两副铠甲，乘船突至敌人的大船下。董袭亲自挥刀砍断了系船用的两根大绳，敌船不稳，在江中横摆，让开了江面，吴军趁势突破了沔口防线。
在其他方面吴军也取得大胜。黄祖命部将陈就抵挡吴军的另一路前锋吕蒙。吕蒙与其激战，亲自将陈就枭首。凌统还率数十名健儿乘坐一条船深入敌后数十里侦察情况，路遇黄祖的部将张硕，凌统将其斩首，其他敌兵连船带人全部俘获。凌统回来把情况报告给了孙权，引导大军继续前进。
孙权报仇心切，他只想抓到杀父仇人黄祖。
吴军各路齐进，兵至沔口城下，孙权原本想这里会和上次在沙羡那样再打一场攻坚战，但结果轻松得多，没费多大事就把城攻破了，黄祖父子弃城而逃。孙权有些失望，下令追捕，不惜一切代价，一定要抓到黄祖。没过一天，好消息便传来，黄祖在逃亡途中被吕蒙手下一个叫冯则的骑士遇到，将其枭首。黄祖的儿子黄射下落史书未予记载，想必也一同死于此战。
这样，第三次西征黄祖，孙权取得了全胜，报了杀父之仇，这一业绩无疑彻底巩固了孙权在江东的地位。更为重要的是，攻占沔口后，孙吴的势力由柴桑西进了数百里，打开了荆州东面的门户，使周瑜这个江夏郡太守实至名归。尽管黄祖死后刘表派长子刘琦继任江夏郡太守，但刘琦的势力仅限于江北地区，沔口以下的长江各要塞都掌握在吴军手中。