到了年底曹操重返谯县，可他一走就出事了。
当时曹军内部正在进行换防，乐进、张辽、李典等部陆续从其他战场赶过来，但还没等他们完成布防，曹操控制区内部出现了叛乱。叛乱发生在曹操控制区的九江郡六县、潜县等地，这里是现在的皖西地区，位于大别山区的北部，自古以来这里民风强悍，加上地处山区，适合打游击，在古代这一带经常是强人出没的地方。
早在官渡之战前后，这一带就有许多变民，规模比较大的有陈乾、梅成、雷绪几股，当时曹操与袁绍相持于官渡，无力东顾，派刘馥担任扬州刺史维持局面。刘馥挺有本事，他虽然是光杆司令一个，但很快打开了局面，使曹操控制区的面积一点点扩大，又重修了合肥城，给曹操与孙权对抗创造了条件。
刘馥开拓扬州有一项重要措施是招安变民，梅乾、陈兰、雷绪都先后被刘馥招安了，从建安五年（200）前后一直到建安十四年（209），这些人倒也挺老实，一直没有闹出过什么事。
这中间刘馥的个人威望起了不小的作用。刘馥去世后，曹军与孙权打了好几个月的仗，当地百姓遭受到巨大的损失，曹操来到合肥后虽然推行了一系列恢复生产、促进社会发展的措施，但民心不稳已成现实。
曹操也看到了这个问题，他对经营好淮南一度失去了信心，甚至想把淮南民众迁到北方去，以避开战乱。
曹操征求蒋济的意见，蒋济表示反对。曹操对蒋济说：“当年我与袁绍在官渡相持，整体迁移过燕县、白马县的民众，似乎并非不可行。”
蒋济这个年轻人很熟悉当地的情况，他回答：“那个时候我弱敌强，不迁走必然被敌人占去。现在情况完全不一样，我们的势力足够强大，民众不会有其他想法。同时，老百姓都有怀土情结，不愿意迁徙，如果硬力推行，大家必然心中不安。”曹操经过考虑，最后没有采纳蒋济的建议，下令从江淮之间进行大规模人口迁移。此令一下，果然引起民众的恐慌，有十多万人跑到孙吴控制区。
曹操赶紧下令停止了移民活动，再次见到蒋济时，曹操曾向蒋济当面做过自我检讨。
陈兰等人再次叛乱正是在这种大背景下发生的，叛乱影响到刚有点规模的合肥基地的安全，看到这种情况，已经身在谯县的曹操立即调兵遣将，镇压叛乱。
当时大的叛乱有陈兰等三股，叛军活跃的主要地区是九江郡的六县、潜县，叛乱的规模相当大。曹操下令成立临时“剿匪司令部”，级别相当高，由夏侯渊行领军，下辖于禁、臧霸、张辽、乐进、张郃、牛盖等部，曹军最精锐人马和最顶尖将领几乎有一半参加了此次行动。
如此兴师动众，一来说明陈兰等人来势很猛，力量小了不解决问题；二来说明曹操对合肥基地的重视，赤壁之战后曹操不能再输了，即使是变民他也不敢大意。
两年前的建安十二年（207），济南国、乐安国发生了黄巾余部徐和、司马俱等人的叛乱，刘氏宗族里的济南王刘赟甚至被杀，夏侯渊负责镇压民变，斩杀了徐和，收复诸县，积累了丰富的平乱经验，所以这一次把他调了过来。
夏侯渊除担任总指挥外，还直接负责对付雷绪这一股。梅成这一股，由于禁和臧霸对付，张辽率领张郃和牛盖所部对付陈兰。看到曹操这边有事，孙权自然不会只是闲观，他派人跟陈兰暗中建立联系，还派韩当率部支援陈兰。
夏侯渊命令臧霸率所部开到皖县一带阻挡韩当，使吴兵不得通过。双方先后战于逢龙、夹石，曹军均获胜。臧霸接到情报，说孙权派了数万人乘船进入舒县支援陈兰，于是移师舒县堵截，孙权的军队闻风撤退。臧霸不干，下令连夜追击，一夜狂追了100多里，于天亮时分终于将敌人追上，双方展开一场激战，曹军大胜。
陈兰没等来外援，在张辽、张郃等人的进攻下渐渐招架不住。
正在这时，陈兰却意外地等来了其他援兵。其实这也算不上援兵，而是梅成那一股。梅成开始向于禁投降，于禁没有察觉有异，就接受了。谁知不久，梅成重新与陈兰勾结，他们联兵一处逃入潜山。
潜山山脉里有一个天柱山，山高道狭，陈兰凭险据守。张辽想发起进攻，手下将校劝道：“兵少道险，难以深入。”张辽不理，仍坚持攻山：“现在正是狭路相逢勇者胜啊！”张辽下令强攻，一举斩杀了陈兰和梅成。
此次皖西作战，张辽立功最大，事后曹操论功行赏，张辽增食邑200户，加上此前的1000户，达到1200户，并且获得了持节的殊荣。曹操在给张辽的颁奖令中说：“登天山，履峻险，斩杀陈兰、梅成，这都是荡寇将军立下的功劳啊！”乐进也增加了500户食邑，达到1200户。于禁增加了200户，也达到了1200户。
这两支民变彻底解决后，夏侯渊对付的雷绪那一股也进展顺利，将雷绪击破。此战接近了尾声，正在这时曹操又接到并州刺史部的报告，说那里也发生了民变，变民首领商曜等人攻占了太原城。曹操下令改任夏侯渊为征西护军，到并州平乱，夏侯渊成了曹操手下的“剿匪”专业户。
曹操同时下令乐进、张辽所部仍留在合肥，加上接到命令刚刚到达的李典所部，由他们三个人共同守卫合肥，其他各部人马撤离。
在这次民变中，有人举报说蒋济与叛军勾结，参与叛乱活动。有关部门报告到曹操那里，曹操压根不信，他当着于禁等人的面说：“蒋济怎么会干这种事？如果真有此事，说明我不会识人，这肯定是假的。”后来经过查实，确实是诬告。
曹操看来对蒋济这个年轻人特别欣赏，后来干脆调他来自己身边任职，先后担任过丞相西曹属、丞相主簿。