东晋这边布置好了对敌之策，前秦那边也马不停蹄地向南进兵。
这年十月，苻坚求胜心切，他等不及各路人马聚齐，便命令苻融进攻寿阳。
寿阳是军事重镇，它的得失对于整个战局的胜负，具有举足轻重的作用。奉命增援寿阳的晋将胡彬，在半路上就接到寿阳失守的消息，只好退守硖石（今安徽寿县西北）。苻融马上命令部将梁成率众五万进攻洛涧（今安徽淮南市东），切断了胡彬与谢石大军的联系。
苻坚到了寿阳，派尚书朱序到晋军大营去劝降。朱序本来是东晋的将领，四年前在襄阳和前秦军队作战时兵败被俘，留在前秦。现在他见晋秦交战，知道自己为东晋出力赎罪的机会到了。他到晋营后，不但没有劝降，反而向谢石提出打败秦军的建议。他说：“这次苻坚发动了百万人马攻打晋国，如果全部人马都到了，恐怕晋军无法抵挡。所以，应乘秦军还没集结的时候，赶快进攻秦军前锋。打败了它的前锋，便可挫伤秦军的士气，这样就可以战胜他们了。”
谢玄听从了朱序的建议，派战斗力较强的北府兵将领刘牢之带领一支兵马，在夜晚神不知鬼不觉地来到洛涧，向秦军阵地发起突然袭击。正在睡梦中的秦将梁成，听到喊杀声，吓出了一身冷汗，慌慌张张地从床上爬起来，上马迎战，结果被刘牢之一刀砍翻，送了性命。
秦军失去主将，四散奔逃，晋军乘胜追击。谢石带领晋军主力渡过洛涧，在离寿阳城只有四里地的八公山下，扎下营寨，与秦军主力隔淝水对峙。苻坚在寿阳城里，接到洛涧秦军失利的消息，有些沉不住气了。
过了几天，谢石派人到寿阳城里，送给苻融一份战书，要求定期决战，条件是秦军把阵地向后撒出一些，腾出一块空地作为战场，让晋军渡过淝水决战。秦诸将都反对晋军的建议，苻坚和苻融却同意晋军的条件，说：“让我们的土兵稍稍向后退一点，等他们正在渡过的时候，让我们的骑兵冲上去，一定能把他们消灭。”
谢石、谢玄得到前秦答应后撒的回音后，迅速整顿兵马，指挥渡河。
晋军渡过淝水，勇猛地冲向秦军阵地。朱序见状，就在秦军阵后大声高喊，“秦军败了，秦军败了！”正在后退的秦军，听到喊声，一时也分辨不清是真是假，逃的逃、躲的躲，整个队伍溃不成军。
苻融赶快跑到队伍后面，去拦阻队伍，不料连人带马被挤倒在地。还没来得及从地上爬起来，就被赶上来的晋军一刀砍死。苻坚见形势不妙，吓得丢下士兵，只顾自己逃命。到洛阳（今河南洛阳）时，苻坚收拾残兵，只剩下十几万人了。
晋军乘胜追击，一口气追赶了三十多里才收兵。谢石、谢玄连夜派人去建康报捷。当报捷的军士赶回建康的时候，谢安正在与客人下棋，他看过告捷的书信，悄悄地把它搁在床上，不露声色，照常下棋。等到客人问时，才漫不经心说：“孩子们已经打败贼军了。”