派鲁肃去收取长沙、桂阳、江夏，然后在陆口屯兵，让吕蒙和甘宁返回，又去余杭将凌统召回。不到一天的时间，吕蒙和甘宁先到了，吕蒙献策道：“如今曹操派庐江太守朱光，在皖城屯兵，兴修稻田，将作物收获于合肥，作为军饷，现在我们可以先取皖城，再来进攻合肥。”
孙权道：“这个想法很好。”于是让吕蒙、甘宁作为先锋，蒋钦、潘璋随后，孙权亲自带着周泰、陈武、董袭、徐盛为中军，那时程普、黄盖、韩当在各处镇守，没有一起出征。
军马渡江后，很快取下和州，往皖城方向前进，太守朱光得知消息后，派兵士取合肥求救，一面坚守城池不出。
孙权带着兵马来到城下观看，发现城墙上面弓箭射出，将孙权的麾盖射中，孙权只好先回到营寨中。
回去后，孙权询问道：“该怎么拿下皖城呢？”
董袭道：“可以让兵士修筑一个土山来进攻。”
徐盛道：“直接云梯攻城，再建造桥梁，越过城墙，进入城中进攻。”
吕蒙道：“你们说的办法都太耗费时间了，合淝救援的兵马到了，我们就要停止这样进攻了。现在我们兵士刚刚到了这里，士气是鼎盛的，可以乘着这个机会，奋力进攻，到了明天加大攻击力度，到了中午左右，应该就可以攻破城池了！”
孙权听从了这个建议，就五更造饭，三军快速前进，城上的石头和弓箭一起落下，甘宁手里拿着铁链，冒着弓箭而上，朱光加派弓箭手射箭，甘宁将箭拨开，一链将朱光击倒，吕蒙亲自擂鼓，士卒一拥而上，乱刀将朱光砍死。其他的兵士看到太守阵亡了，也没有了斗志，纷纷投降，很快得到了皖城，等到辰时，张辽带着兵士走了一半路程，听说皖城已经沦陷了，便撤兵回到了合淝。
孙权进入了皖城，凌统带着兵马也到了，孙权进行了犒劳，重赏了吕蒙、甘宁等将领，摆设庆功宴，吕蒙和甘宁上坐，大家都称赞他们的功劳，酒至半酣，凌统忽然想起了杀父之仇，看到吕蒙和众人不断进行夸奖，内心失衡，十分生气，盯着甘宁看了许久，忽然拔出了身上的佩剑，站在宴席中间，道：“宴席期间没有音乐，无法助兴，看我来舞剑吧。”
甘宁注意到这个动作，将身前的食物都推开，两手取两枝戟握住，走到宴席中间，道：“看我来使戟。”
吕蒙感觉到两人之间浓浓的敌意，就一手拿着盾牌，一手握住砍刀，站在他们中间，道：“你们虽然厉害，但是没有我巧妙啊！”说完，将刀和牌挥动起来，将两人分开。
这件事很快传到了孙权那里，孙权连忙上马，赶了过来，大家看到孙权到了，都放下了武器。
孙权道：“我经常说，你们两人要放下以前的仇恨，怎么又这样啊？”
凌统哭着跪在了地上，孙权再三劝说，这才情绪恢复了一些，到了第二天，起兵进攻合淝，三军出动。
张辽因为丢了皖城，回到合淝，心中郁闷，忽然有人汇报，说是曹操送了一个木匣子过来，上面有曹操的亲笔信，于是看了看，上面是：贼若来进攻就打开。