诸葛亮受张武委托建设建业城以作为防御江北曹军的军事重镇，和攻取淮南地区的桥头堡，建成之后诸葛亮以车骑将军府左军师将军的身份统兵驻屯，有大将赵云、丁奉、吕蒙等辅佐。
原本建业城有一万步兵和一万水兵驻扎，后来又招募了一万丹阳兵。
建安十五年深秋，甘宁率一万水军和蒋钦、朱桓二将自江陵出发，中途汇合了驻守柴桑的文聘和两万水军，大军共计三万来到建业城，要对江北采取军事行动以呼应葭萌关战场。
曹操当初趁张武灭孙权之时，出兵抢占了原江东与淮南之间的缓冲地带，之后设立了庐江郡和九江郡。庐江郡的郡治在皖城，郡守为朱光，原庐江郡太守雷绪调任九江太守，治所为寿春。
但是曹操在淮南的主要防守重镇还是合肥，大将张辽、李典和乐进也率两万大军驻扎在合肥。
诸葛亮召集众人开会，讨论作战计划。
吕蒙献计道：“现今曹操令庐江太守朱光屯兵于皖城，开垦稻田，纳谷于合肥，以充军实。今可先攻取皖城，再攻打合肥。”
诸葛亮也赞同先打皖城，然后再打合肥。
首先是因为皖城前不久还是江东的地盘，中间短暂的在张武手中倒了一把手，后来才被曹军占去。现在吕蒙、蒋钦等江东大将归降张武，对那里还是比较熟悉的，也有一定的群众基础。
其次，皖城离长江比较近，从长江走皖水可直达皖城之下，可以迅速出兵，然后在合肥的援兵到来之前尽力拿下皖城。
最后，据斥候打探，现在皖城也没有曹军大将，兵力也不多，诸葛亮能发挥兵力优势。
现在建业的一众文武官员中，甘宁的职位最高，但张武有明确的指示，诸葛亮有决策权和指挥权，而甘宁、丁奉、赵云等大将有统兵权。也就是说，诸葛亮能决定该不该打，什么时候打，怎么打，却不能越过甘宁、丁奉、赵云等大将去直接指挥军队，他只能指挥这些将领。
甘宁、赵云、丁奉等将领要服从诸葛亮的决策和指挥，他们再带着士兵去执行各项战略部署，让他们怎么打他们就得怎么打。但如果诸葛亮让他们造反，他们也肯定不会听，甘宁就能直接掌控着大军采取行动。
这就是张武能放心地将扬州的军务交给诸葛亮的原因，就算诸葛亮有什么异心，但统兵大将们不一定会跟随他。赵云不是个叛变的人，丁奉是张武的绝对心腹，而原江东诸将们也跟诸葛亮不是很亲近。
当然，张武也相信诸葛亮的为人，相信他也绝不是会背叛自己的人，但作为一个大势力的主公，不能把信任当制度，该采取的措施也必须有，这是对所有人都有好处的事。
原著中，刘备那么信任依赖诸葛亮，还先后用徐庶、庞统、法正来平衡诸葛亮的权力。后来徐庶进了曹营，庞统入蜀时被箭射死，法正在刘备进位汉中王的第二年就病死了，等刘备死后，就再也没有人能制衡诸葛亮了。刘备死的时候，指定了两个托孤大臣，一个人是诸葛亮，另一个是李严。刘备原本是想让诸葛亮治理政务，让李严在外统兵，互相制衡，但以诸葛亮为主。
结果李严最后被诸葛亮罢黜，废为平民，其实这也不全部是因为诸葛亮专权，有很大一部分原因是李严的野心越来越大了，为了提高自己的权力，竟然威胁诸葛亮，说司马懿用高官厚禄来招降他。