直到建元十九年八月，也就是公元383年以前，苻坚还是十六国历史上最为成功的君主。论疆域，之前统一北方的石勒只能自叹不及；论品性，他在暴虐之君众多的十六国中算是屈指可数的“仁义之君”；若论民族政策，他的方针也的确缓解了民族间的仇杀，促进了各民族的融合（先毋论这种融合是好是坏）。于是他于公元383年发动的备受后人诟病的大战，在事前看来，不过是他欲将自己的成功推向极致的必经之路，一如司马炎灭吴，杨坚灭陈，以及赵匡胤消灭南方诸国。如果不明白这些，只是根据胜败论英雄，在这一点上指责苻坚犯了大错，就不免有些太不负责任了。

早在建元十四年（公元378年），苻坚就开始对东晋用兵。这一年二月，他派自己的爱子、征南将军苻丕率领步骑七万，与征虏将军石越、京兆尹慕容垂以及领军将军苟池等的各路人马近十万，会攻襄阳，揭开了大战的序幕。

东晋方的襄阳守将是朱序，他认为前秦军没有舟船，未作防备。不料石越率领五千骑兵，架起浮桥，渡过汉水，直逼襄阳外城。朱序这时才想到固守中城，但为时以晚，石越的军队很快攻下外城，获得数百艘渡船，从而非常顺利地引渡了余下的秦军，将襄阳城团团围住。

年轻气盛的苻丕本想急攻，大将苟苌认为秦军占据绝对优势，不如只围而不打，阻断晋军粮道和援兵，争取拖垮对手，取得胜利。苻丕觉得这法子不错，正赶上慕容垂攻下南阳，便和他合军襄阳城下，静待其变。

这战事一直拖着，时间一长，却先恼了朝中的一干大臣（可见前秦内部意见亦未统一）。御史中丞李柔上奏苻坚，说苻丕拥兵十万，却围攻小小的襄阳城久久不下，每天都耗费无数钱财，不如撤军，严惩苻丕。

苻坚一心取胜，当然不愿中途回师，于是他准备御驾亲征，被苻融等人力劝才打消念头，最后他遣使赐给苻丕宝剑，对他说：“如果来年春天还攻不下襄阳，你即可自裁，别再来见我！”

苻丕无奈之下，只好硬着头皮猛攻襄阳。朱序在阵前很是勇猛，屡屡出城击退秦军，谁料到内外不得兼顾，襄阳城内出了叛徒，督护李伯护秘密派遣自己的儿子前往秦兵营中，约为内应。苻丕苦等了一年之久，得到如此“好处”，怎能放过，命令诸军全力进攻。襄阳城惨遭里应外合，终于陷落，朱序被俘，解送到长安。苻坚这个人的想法就是“奇妙”，他认为朱序能够为东晋守节，是条汉子，任命他为度支尚书；而认为李伯护不忠，将其斩首。（苻坚的任人之道便是“天下人才皆为我用”，从不在乎这些“人才”真正的想法。他对自己的人格魅力颇为自信，这其中的气概实在令人敬佩。然而他的这种自以为是的观点也太过天真，苻坚后半生的失败终源于此，也确是一大缺憾。）

同年七月，苻坚派兖州刺史彭超进攻彭城（即今江苏徐州），又派后将军俱难等人率步骑七万攻打淮阴（今江苏淮阴西南）、盱眙（今属江苏）两地。两军以犄角之势冲击东晋的东路防线。

到第二年的二月，秦军攻陷彭城、淮阴。三个月后，攻陷盱眙。秦军六万进围三阿（今江苏高邮西北），距广陵（今江苏扬州）仅百里之遥，逼近东晋国都建康。

东晋朝廷大震，急忙在沿江一带布防，又调来谢安的弟弟谢石的水军守备。而晋军真正的主力此时正在广陵，其军事力量不容小视，那便是东晋历史上鼎鼎有名的“北府兵”。

几年之前谢安向孝武帝推荐自己的侄子谢玄，孝武帝任命他镇守广陵。为抵御前秦可能的进攻，谢玄一到广陵就招募骁勇善战之人，附近不少武艺高强、通晓军事的汉人都来投奔，他任命彭城人刘牢之为参军，又提拔何谦、诸葛侃等人，通过严格的军事训练，建起这支战斗力极强的军队。

谢玄率领北府兵自广陵前去解救三阿之围，果然一战告捷，不但大败三阿的秦军，还乘胜收复了盱眙、淮阴，把秦军赶回淮河之北，秦军主将彭超、俱难落得个只身逃回长安的下场。苻坚大怒，将彭超下狱，彭超自杀；俱难则被贬为庶民。然而气恼之余，苻坚反倒坚定了灭晋的决心，南征的计划在他心中已难以动摇。

建元十八年（公元382年），苻坚终于在满朝文武面前提出了大举进攻东晋的构想，在全国范围内征召精锐甲兵八十七万，并决定亲自率兵渡江南征。各抒己见的大臣们多不同意南征。从秘书监朱彤、左仆射权翼、太子苻宏，到宠僧道安、宠妃张夫人、幼子苻诜，不管出于什么原因，各人都反对出征。苻坚心中不快，默然无语。

退朝之后，他把阳平公苻融单独留了下来，对他说：“自古以来能定大事的，不过一两个人而已。适才朝上众说纷纭，徒添烦恼，我还是和你商量一下这件事吧。”

苻融想了想，说：“现在讨伐晋国有三难：一是天道不顺，二是晋国无衅，三是我军数战兵疲，民有畏敌之心。认为不可讨伐晋国的都是忠臣，希望陛下能够听取意见。”

苻坚一脸失望地说：“你居然也这么讲，我还能指望谁！想我秦国强兵百万，财粮如山；即便我不算明君，却也不是什么昏君。我军正好乘着连胜之势，攻打将亡之国，还怕打不下来？怎么可以留着晋国这个残余的敌对势力贻害将来呢？”