383年10月初，前秦征南大将军苻融正式与晋军交锋，率军猛攻寿阳，不出十天便攻克，并俘虏了东晋守将、平虏将军徐元喜等人，慕容垂也攻陷郯城，一路势如摧枯拉朽，晋军毫无招架之力。
东晋龙骧将军胡彬听说寿阳已经陷落，便退守硖石，苻融接着猛攻硖石，前秦首都卫戍司令官梁成等人，则率军五万沿洛涧布防，在淮河构筑阻挠工事，准备将晋军一切为二，彻底隔绝东方赶来的援军，然后各个击破。
东晋剿匪总司令官谢石、前锋司令官谢玄等人，很快便挺进到洛涧东方25里的地方，畏惧梁成的军势，一时不敢前进，而这时困守在硖石的胡彬大军，粮秣已经用完，派人秘密带着书信报告谢石，信上写道：“现在盗贼势力正盛，我们粮食又已用尽，恐怕此生难再相见了！”
但这封信没有成功送到谢石手上，半道便被前秦巡逻队截获了，并把送信的士兵押送给苻融，苻融一看信上的内容是那么悲凉无助，顿时意识到原来东晋真的只是纸老虎而已，白白占据了那么大的领土，但如今连前秦的先锋部队都抵挡不住，更何况还有近百万雄师即将到来，东晋败局已定。
越想越激动，苻融立刻修书，派骑兵飞快报告苻坚，传达了他的想法：“想不到盗贼人数不多，很容易对付，唯一害怕的只是他们逃跑无踪，我们应该速战速决！”言下之意，是不想等主力大军会师，便要与晋军展开决战。
苻坚接到书信之后大喜过望，瞬间忘乎所以，把大军留在项城，自己只率轻骑兵八千人，日夜不停地奔赴寿阳，准备亲眼见证东晋的覆灭，一面再让东晋的降将朱序前往游说谢石等人，警告他们强弱悬殊，不如早早投降。
就是这么不起眼的一个安排，最终却将秦军推向了失败的深渊。
朱序其实并没有真心归降，打着劝降晋军的旗号，暗中提醒谢石说：“秦军有百万雄师一点不假，如果等他们全部抵达，就是韩信、白起再世，也无力回天，但所幸他们的绝大部分兵力仍在半路滞留，最好应趁着他们还没集结完毕之前，发动突击，如果打败了前锋，也可挫败他们的士气，再进一步拼拼运气，也许能避免亡国之祸。”
谢石一时拿不定主意，打算不做正面冲突，只用阻截战术把前秦军困住，但敌我力量悬殊，无论如何都不可能困住对方，最后只会把自己困死，谢琰和谢玄都力劝谢石接受朱序的提议，反正是个死，何不拼一把呢？
11月，谢玄派广陵郡长刘牢之，率精锐北府兵五千人，直抵洛涧，准备突破敌人的防线，与上游的兵力会回，然后夹击前秦的先锋部队。
在距离洛涧还有十里远的时候，梁成已在两岸集结完毕，坐等晋军前来送死，
然而他们失策了，刘牢之率领部众勇往直前，竟然强行渡过洛涧，登岸后纵兵攻击，大破前秦，并成功击斩梁成和弋阳郡长王咏。
眼看战术奏效，谢玄又派一支部队，切断了前秦向淮河以北逃亡的退路，与刘牢之遥相呼应，对前梁成的部队实施围剿。
前秦大军从未料到会有这样的发展，主帅也没了，被杀得傻了眼，纷纷四散而逃，甚至跳到淮河寻求生路，死伤一万五千多人，扬州督导官王显等人则被东晋俘虏，武器辎重全部丧失。
这时苻坚已抵达寿阳，与苻融登上寿阳城楼，向洛涧眺望，看到北府兵团军容严整，丝毫看不出半分畏惧，又眺望八公山，认定山上的草木里一定也藏着晋军，否则他们绝不会如此从容不迫，心里略感慌张，对苻融说：“这也是强敌，怎么说既弱且少？”
先前群臣上书说的所有不好的结果竟一鼓脑全都涌现眼前，苻坚顿感恐惧，寻思早知如此，就应该与主力大军一起赶来，现在虽有百万兵力，却并不能全部倚仗，战场形势瞬息万变，只怕还有变数。
苻融也没想到梁成居然会惨死洛涧，一时不能对答，只盼接下来的决战能顺利一些，苻坚此时却忽然提议先按兵不动，等到主力大军赶来，再做决战，这样才能确保万无一失，苻融也有同感，于是下令三军原地休整。