太元四年（379年）八月初七，朝廷任命左将军王蕴为尚书仆射。不久，又提升为丹阳尹。王蕴认为自己是皇后的父亲，不想在朝廷内任职，苦苦请求到外地去，朝廷又任命他为都督浙江东五郡诸军事、会稽内史。
太元六年（381年）正月，孝武帝开始尊奉佛教的法度，在殿内设置了精舍，让僧徒们居住。尚书左丞王雅上表劝谏，孝武帝不听。
在孝武帝亲政的头3年，他改革收税的方法，放弃以田地多少来收税的方法，改为王公以下每人收米3斛，在役的人不交税，被称为东晋末年的复兴。但是后来孝武帝嗜酒成性，《晋书》说“醒日既少”，优柔寡断，导致东晋政局再度陷入混乱。
孝武帝，是东晋王朝比较有作为的皇帝。在他当皇帝的24年里，晋王朝多少出现了一些振兴之象，还曾经创造了中**事史上的奇迹“淝水之战”。淝水之战是我国历史上著名的战争，发生在东晋太元八年（383年）八月。当时，前秦皇帝氐族人苻坚，在统一了黄河流域后，踌躇满志，欲图以“疾风之扫秋叶”之势，一举荡平偏安江南的东晋，统一南北。
先是，前秦王苻坚下达诏令，开始大举入侵东晋。百姓中每10个成年人选派1人充军，良家子弟中年龄在20岁以下，有才能勇气的人，全都授官羽林郎。他说：“晋朝任命司马昌明为尚书左仆射，谢安为吏部尚书，桓冲为侍中。以此形势来看，凯旋的时间不会太远，可以先行起身于家，出任官职。”
八月初二，苻坚派遣阳平公苻融督帅张蚝、慕容垂等人的步、骑兵25万人作为前锋，任命兖州刺史姚苌为龙骧将军，督益、梁州诸军事。初八，前秦宣昭帝苻坚发兵长安，将士共有60多万、骑兵27万、羽林郎（禁卫军）3万，共90万大军从长安南下，旌旗战鼓遥遥相望，绵延数千里。同时，苻坚又命梓潼太守裴元略率水师7万从巴蜀顺流东下，向建康（今南京）进军。
九月，苻坚抵达项城（今河南项城），凉州（今甘肃武威）的军队刚刚到达咸阳，蜀、汉的军队正顺流而下，幽州（今河北北部及辽宁一带）、冀州（今河北冀州）的军队到了彭城，东西万里，水陆并进，运输军粮的船只多达万艘。苻坚骄狂地宣称：“以吾之众旅，投鞭于江，足断其流。”这就是著名典故“投鞭断流”的来历。阳平公苻融等人的部队30万人，先期抵达颍口（今安徽颍上县）。
东晋朝廷下达诏令，任命尚书仆射谢石为征虏将军、征讨大都督，任命徐、兖二州刺史谢玄为前锋都督，与辅国将军谢琰（谢安的儿子）西中郎将桓伊等人的兵众8万人抵抗前秦。让龙骧将军胡彬带领5千水军援助寿阳。
这时前秦的军队已经非常强盛，东晋京城里的人震惊恐惧。谢玄入朝，向谢安询问应对之策，谢安一副平静的样子，回答说：“已经另有打算了。”紧接着就闭口无言。谢安还命令驾车出游山间别墅，亲戚朋友云集，与谢玄在别墅玩围棋赌博。
当时秦军前锋苻坚之弟苻融兵30万首先到达颍口，秦军初战告捷，苻融攻占了寿阳（今安徽寿县），与此同时，秦军慕容垂部攻占了郧城（今湖北郧县）。而且截断了东晋派来救援军胡彬的退路，将其团团包围在硖石（今安徽凤台西南）。苻融赶快送信给苻坚说：“敌人少而且易捕获，就是担心逃跑了，请赶快派大军过来。”苻坚见信大喜，灭东晋心切，留大军于项城，带轻骑8千赶到寿阳。这时候无论是苻坚或者是苻融这时都认为东晋已是刀翥之肉。于是派出原东晋大将朱序去劝降。
朱序原是东晋襄阳守将。早在太元三年（378年），苻坚派出大军围攻襄阳城，朱序顽强抵抗坚守了一年，朱序多次出城作战，屡破秦军。后来朱序部将李伯护秘密派其子送信秦军，愿做内应。苻坚派兵加紧攻城。城破后，苻坚没有杀朱序，反留在身边重用。
再说，朱序到了谢玄营中，将秦军部署和盘托出。并建议，趁秦军未完全集结，迅速出击。谢石本来是打算坚守不战，听了朱序的话后，便改变了作战方针，决定主动出击。
十一月，谢玄派广陵相刘牢之率5千精兵开赴洛涧（在今安徽淮南东），拉开了淝水之战的序幕。秦将梁成率部在离洛涧十里的地方，部署兵阵以等待刘牢之。刘牢之大败梁成，斩杀了梁成以及弋阳太守王咏。又分派部队继绝了他们归途上的渡口，前秦的步、骑兵全都崩溃，争先恐后地逃向淮水，死亡的士兵有1万5千人，抓获了前秦扬州刺史王显等人，全部收缴了他们的武器军粮。
前秦王苻坚与阳平公苻融登上寿阳城观望，只见东晋的军队布阵严整，又望见了八公山上的草木，也以为都是东晋的士兵（“八公山上，草木皆兵”的成语就出自于此），苻坚掉头对苻融说：“这也是强敌，怎么能说他软弱呢！”苻坚感到有些茫然若失。
洛涧大捷后，令晋军信心倍增。前秦的军队紧逼淝水（今安徽寿县南瓦埠湖一带）而布阵，东晋的军队无法渡过。谢玄派使者对阳平公苻融说：“您孤军深入，然而却紧逼淝水部署军阵，这是长久相持的策略，不是想迅速交战的办法。如果能将兵阵稍微后撤，让晋朝的军队得以渡河，以决胜负，不也是很好的事情吗！”前秦众将领都说：“我众敌寡，不如遏制他们，使他们不能上岸，这样可以万无一失。”苻坚不知是计，于是说：“只带领兵众稍微后撤一点，让他们渡河渡到一半，我们再出动铁甲骑兵奋起攻杀，这样就可以取得胜利”苻融也表示赞同。于是就挥舞战旗，指挥兵众后退。结果前秦的军队一退就失去控制，阵势大乱。谢玄、谢琰、桓伊等率领军趁势抢渡淝水，向秦军猛攻。苻融被杀，前秦的军队立刻崩溃。当初，前秦的军队稍微后撤时，朱序在军阵后面高声呼喊：“秦军失败了！秦军败了！”秦军有很多是强征入伍的，而且有着好多个民族，各怀鬼胎，人心本来就不稳。又刚吃了落涧败仗，朱序这一喊，以为真的败了，越发慌乱，争相逃命，导致几十万军队象山崩了一样丢盔弃甲的大溃逃。朱序乘机与张天锡、徐元喜都来投奔晋军。缴获了前秦王苻坚所乘坐的装饰着云母的车乘。又攻取了寿阳，抓获了前秦的淮南太守郭褒。谢玄等乘胜追击，直至青冈（今寿阳西30里）。秦军大败，自相践踏而死的人，遮蔽山野堵塞山川。逃跑的人听到刮风的声音和鹤的鸣叫声，都以为是东晋的军队将要来到（“风声鹤唳”的成语就出自于此），昼夜不敢停歇，慌不择路，风餐露宿，冻饿交加，死亡的人十有七八。
苻坚中了流箭，单身匹马逃到淮河以北。这时，前秦的各路军队全都溃散，唯独慕容垂所统领的3万人完整保全，苻坚带领1千多骑兵与慕容垂会合。
谢安接到了驿站传递的书信，知道前秦的军队已经失败，当时他正与客人下围棋，将信放在床上，毫无高兴的样子，继续下棋。客人问他是什么事，他慢条斯理地回答说：“小孩子们已经最终攻破了寇贼。”下完棋以后，他返回屋里，过门槛时，高兴得竟然连屐齿被折断都没有发觉（这是著名的典故“屐齿之折”的出处），这年谢安63岁。谢安的实践充分证明了孙子的名言：“将不在勇而在谋，兵不在多而在精。”