前秦是我国长江以北地区的少数民族氐人建立的政权。苻坚即位以后，重用王猛、吕婆楼等贤臣，使前秦得到了很好的发展。苻坚在王猛的帮助下，先后灭掉了前燕、前梁、代国，前秦的势力得到了迅速的扩张。几年后，王猛病死，苻坚见国力充足，就踌躇满志，准备攻打东晋。群臣对苻坚的这个想法意见不一，有的赞成，但反对者的阵营中有些很有分量的人物，如权翼和苻坚的弟弟苻融，而且王猛生前也力劝苻坚不要伐晋。苻坚心中不满，就找弟弟苻融商量。苻坚说：“我朝有雄兵百万，粮食堆积如山，晋朝虽然有长江天险，只要每个人把马鞭扔到江水中，就足以让长江断流。何况我军屡战屡胜，怎么能让东晋长久的存在下去呢？”苻融说：“陛下收留的鲜卑、羌等族，表面上是归顺，但是心里都不服，而且东晋上下一心，谢安天下奇才，不可图谋。”苻坚自恃武力强大，不听劝告，还狂妄的说：“等到灭掉了东晋，封东晋天子为尚书左仆射，谢安做吏部尚书，桓冲为侍中。”东晋王朝和前秦的关系变得紧张起来。
面对前秦的巨大威胁，在政治斗争中表现得游刃有余的谢安，又显露了他超群的军事才能。谢安首先安定民心，发展生产，为不可避免的战争打下物质基础，改革了税制，减免劳役，提倡节俭，东晋的国库渐渐丰盈起来。
应付战争，只有物质基础是不行的，还必须有一支强大的军队。当时东晋的军队都掌握在桓冲的手中，桓冲坐镇长江上游，守卫战略要地，不能轻举妄动。为了守卫江北，同时也为战争做好准备，谢安推荐了自己的侄子谢玄，让他去组建一支新的军队。朝中大臣听说谢安推荐自己的侄子，有些人不太同意，认为他任人唯亲。一向与谢安不合的郗超却说：“谢安违背常理举荐亲属，这是他的明智；谢玄一定能不负谢安的推荐，这是他的才干。”郗超这样说，其他人的议论才平息了。谢玄被任命为建武将军、兖州刺史、领广陵相，监江北的军队。
组建新的军队是谢安的策划，当时东晋主要拥有荆州和扬州，长江上游的荆州地广兵强，许多重权人物都做过荆州刺史。现在荆州在桓冲手中，而扬州是京师所在地，如何改变荆州和扬州的军事力量对比，是谢安必须要解决的问题。上游既然已经不能发展，谢安决定在下游的广陵、京口建立北府兵。
晋代的京口就是今天的江苏镇江，那时候也称为北府。这里的人骁勇善战，谢玄出镇镇江、广陵之后，按照谢安的部署招抚了刘牢之等大将，组成了北府兵，成为东晋朝廷的一支精锐部队。谢安通过养民、建军这些做法，为抗击前秦做好了准备。
北府兵建成后，多次击败前秦的军队，后来谢玄又率领军队偷袭前秦军，屡战屡胜。朝廷封谢玄为冠军将军兼徐州刺史。谢安有了自己的精锐部队，所以苻坚大举进兵的消息传来，谢安不慌不忙，任命自己的弟弟谢石为征讨大都督，命谢玄为前锋都督和辅国将军谢琰、西中郎将桓伊率领八万人马拒敌，另外派龙骧将军胡彬率领五千人增援军事重镇寿阳，以谢玄的北府兵为主力。
苻坚号称百万雄兵，倾国而出，晋军只有八万人马，众寡悬殊，东晋上下都很悲观。上至皇帝，下至将校都忧心忡忡。连谢玄也很担心，他奉命出发前去问叔叔谢安，应该如何破敌。谢安对他说：“上面已经下了旨意了。”谢玄等了半天，也没有下文，不敢多问，只好回去。但谢玄他放心不下，就让手下的将军张玄去问，结果谢安却让张玄陪他一起出去游玩了，谢玄不敢多问，谢安倒是不慌不忙，一直游玩到天黑才回来，又找来谢玄下棋，赌谢玄的别墅。谢玄棋艺本来高过谢安，可是由于分心，最后输给了谢安。谢安笑着安慰了谢玄几句，然后面授机宜，这才让谢玄回家。其实谢安心里何尝不知道前秦势力强大，但是他身为朝廷的股肱之臣，在这个紧要关头自己先惊慌失措，全国上下就会崩溃的，他故意摆出悠闲的样子，就是要安定民心。
【讲真，最近一直用咪咪阅读看书追更，换源切换，朗读音色多，iiread 安卓苹果均可。】
桓冲派来了三千精兵要入卫京师，谢安婉言谢绝。桓冲叹息说：“谢安是宰相之才，却不娴于将略，天下大事不可收拾了，我们马上就会沦为异族的俘虏了。”谢安没有理会桓冲的想法，他有自己的考虑：三千人在战役中未必起到多大的作用，而且在这个时候，派兵入京，不免惊扰人心。更重要的是桓冲的势力一入京师，清除就难了，所以谢安才拒绝了桓冲的要求，另外他对自己的战略也充满了信心。
同年十月，苻融率军猛攻寿阳，大将慕容垂攻克郧城(今天湖北安陆)，胡彬退保硖石(今安徽寿县西)。谢玄和谢石由东向西来帮助，但是因为惧怕苻坚的大将梁成阻拦，不敢前进。胡彬死守硖石，眼看粮草不足，派人出来报告谢石说自己粮草不足。结果送信的人被苻坚抓住了，苻坚知道这个情况后，立刻率领八千人赶来寿阳会合苻融，并派原来镇守襄阳后来被俘投降的晋将朱序去游说谢石，劝他投降。朱序虽然在前秦做官，但一直心念故国。朱序私下里对谢石说明，前秦的百万大军并未到达，只是少数军队在这里，务必抓紧时机，打败他们。谢石听了朱序的报告，谢琰也一意劝说，这才下定了决心，准备正面出击。
十一月，谢玄派刘牢之带领五千人去袭击梁成驻守的洛涧，刘牢之奋勇在前，秦军大败。刘牢之斩杀了梁成和他的弟弟梁云。刘牢之大获全胜，解了胡彬之围。谢石乘势追击，直抵寿阳。苻坚和苻融登上寿阳城，望见城外晋军军容严整，又看见八公山上的草木，误认为也是晋兵。苻坚心中有些害怕了，他对苻融说：“这可是劲敌啊，怎么能说晋军的力量薄弱呢？”
苻坚见晋军势大，就严守不出，等待后面的大军。两军隔着寿阳城东的淝水，秦军在西北，晋军在东。谢石兵进东岸，无法度过淝水和秦军作战。谢玄怕时间长了，秦军的后续部队来到，不好取胜，就给苻坚送信说：将军率军深入，依水列阵，看来是惧怕我军，不敢作战了。请您把军队后撤一点，让我们渡河过去，大家一决胜负，如何？苻坚想趁着晋军渡河的时候袭击晋军，就答应了谢玄的要求。