到了年底曹操重返譙縣，可他一走就出事了。
當時曹軍內部正在進行換防，樂進、張遼、李典等部陸續從其他戰場趕過來，但還沒等他們完成佈防，曹操控制區內部出現了叛亂。叛亂發生在曹操控制區的九江郡六縣、潛縣等地，這裡是現在的皖西地區，位於大別山區的北部，自古以來這裡民風強悍，加上地處山區，適合打游擊，在古代這一帶經常是強人出沒的地方。
早在官渡之戰前後，這一帶就有許多變民，規模比較大的有陳乾、梅成、雷緒幾股，當時曹操與袁紹相持於官渡，無力東顧，派劉馥擔任揚州刺史維持局面。劉馥挺有本事，他雖然是光桿司令一個，但很快打開了局面，使曹操控制區的面積一點點擴大，又重修了合肥城，給曹操與孫權對抗創造了條件。
劉馥開拓揚州有一項重要措施是招安變民，梅乾、陳蘭、雷緒都先後被劉馥招安了，從建安五年（200）前後一直到建安十四年（209），這些人倒也挺老實，一直沒有鬧出過什麼事。
這中間劉馥的個人威望起了不小的作用。劉馥去世後，曹軍與孫權打了好幾個月的仗，當地百姓遭受到巨大的損失，曹操來到合肥後雖然推行了一系列恢復生產、促進社會發展的措施，但民心不穩已成現實。
曹操也看到了這個問題，他對經營好淮南一度失去了信心，甚至想把淮南民眾遷到北方去，以避開戰亂。
曹操徵求蔣濟的意見，蔣濟表示反對。曹操對蔣濟說：「當年我與袁紹在官渡相持，整體遷移過燕縣、白馬縣的民眾，似乎並非不可行。」
蔣濟這個年輕人很熟悉當地的情況，他回答：「那個時候我弱敵強，不遷走必然被敵人佔去。現在情況完全不一樣，我們的勢力足夠強大，民眾不會有其他想法。同時，老百姓都有懷土情結，不願意遷徙，如果硬力推行，大家必然心中不安。」曹操經過考慮，最後沒有採納蔣濟的建議，下令從江淮之間進行大規模人口遷移。此令一下，果然引起民眾的恐慌，有十多萬人跑到孫吳控制區。
曹操趕緊下令停止了移民活動，再次見到蔣濟時，曹操曾向蔣濟當面做過自我檢討。
陳蘭等人再次叛亂正是在這種大背景下發生的，叛亂影響到剛有點規模的合肥基地的安全，看到這種情況，已經身在譙縣的曹操立即調兵遣將，鎮壓叛亂。
當時大的叛亂有陳蘭等三股，叛軍活躍的主要地區是九江郡的六縣、潛縣，叛亂的規模相當大。曹操下令成立臨時「剿匪司令部」，級別相當高，由夏侯淵行領軍，下轄於禁、臧霸、張遼、樂進、張郃、牛蓋等部，曹軍最精銳人馬和最頂尖將領幾乎有一半參加了此次行動。
如此興師動眾，一來說明陳蘭等人來勢很猛，力量小了不解決問題；二來說明曹操對合肥基地的重視，赤壁之戰後曹操不能再輸了，即使是變民他也不敢大意。
兩年前的建安十二年（207），濟南國、樂安國發生了黃巾餘部徐和、司馬俱等人的叛亂，劉氏宗族裡的濟南王劉贇甚至被殺，夏侯淵負責鎮壓民變，斬殺了徐和，收復諸縣，積累了豐富的平亂經驗，所以這一次把他調了過來。
夏侯淵除擔任總指揮外，還直接負責對付雷緒這一股。梅成這一股，由於禁和臧霸對付，張遼率領張郃和牛蓋所部對付陳蘭。看到曹操這邊有事，孫權自然不會只是閒觀，他派人跟陳蘭暗中建立聯繫，還派韓當率部支援陳蘭。
夏侯淵命令臧霸率所部開到皖縣一帶阻擋韓當，使吳兵不得通過。雙方先後戰於逢龍、夾石，曹軍均獲勝。臧霸接到情報，說孫權派了數萬人乘船進入舒縣支援陳蘭，於是移師舒縣堵截，孫權的軍隊聞風撤退。臧霸不幹，下令連夜追擊，一夜狂追了100多里，於天亮時分終於將敵人追上，雙方展開一場激戰，曹軍大勝。
陳蘭沒等來外援，在張遼、張郃等人的進攻下漸漸招架不住。
正在這時，陳蘭卻意外地等來了其他援兵。其實這也算不上援兵，而是梅成那一股。梅成開始向於禁投降，於禁沒有察覺有異，就接受了。誰知不久，梅成重新與陳蘭勾結，他們聯兵一處逃入潛山。
潛山山脈裡有一個天柱山，山高道狹，陳蘭憑險據守。張遼想發起進攻，手下將校勸道：「兵少道險，難以深入。」張遼不理，仍堅持攻山：「現在正是狹路相逢勇者勝啊！」張遼下令強攻，一舉斬殺了陳蘭和梅成。
此次皖西作戰，張遼立功最大，事後曹操論功行賞，張遼增食邑200戶，加上此前的1000戶，達到1200戶，並且獲得了持節的殊榮。曹操在給張遼的頒獎令中說：「登天山，履峻險，斬殺陳蘭、梅成，這都是蕩寇將軍立下的功勞啊！」樂進也增加了500戶食邑，達到1200戶。於禁增加了200戶，也達到了1200戶。
這兩支民變徹底解決後，夏侯淵對付的雷緒那一股也進展順利，將雷緒擊破。此戰接近了尾聲，正在這時曹操又接到并州刺史部的報告，說那裡也發生了民變，變民首領商曜等人攻佔了太原城。曹操下令改任夏侯淵為征西護軍，到并州平亂，夏侯淵成了曹操手下的「剿匪」專業戶。
曹操同時下令樂進、張遼所部仍留在合肥，加上接到命令剛剛到達的李典所部，由他們三個人共同守衛合肥，其他各部人馬撤離。
在這次民變中，有人舉報說蔣濟與叛軍勾結，參與叛亂活動。有關部門報告到曹操那裡，曹操壓根不信，他當著於禁等人的面說：「蔣濟怎麼會幹這種事？如果真有此事，說明我不會識人，這肯定是假的。」後來經過查實，確實是誣告。
曹操看來對蔣濟這個年輕人特別欣賞，後來乾脆調他來自己身邊任職，先後擔任過丞相西曹屬、丞相主簿。