南岳还是著名的佛教圣地。环山数百里，有寺、庙、庵、观等200多处。位于南岳古镇的南岳大庙，是中国南方和五岳中最大的古建筑群，有“江南第一庙”、“南国故宫”之称，始建于唐，后经唐、宋、元、明、清六次大火和十六次修缮扩建，于光绪八年（1882年）形成现在98500平方米的规模，依次九进。大庙坐北朝南，四周围以红墙，角楼高耸。林涧山泉，绕墙流注。庙内，东侧有8个道观，西侧有8个佛寺，以示南岳佛道平等并存。南岳大庙，是一件有历史意义和艺术价值的珍品，其规模之宏大，建筑之精美，结构之完整，布局之周密，实属罕见。在南岳古镇，还有一座佛教古寺——祝圣寺。它位于镇的东街，与山上的南台寺、福严寺、上封寺和衡山城外的清凉寺等，合称为南岳六大佛教丛林。相传大禹治水时曾经来到这里，并在这里建立清冷宫佘礼舜帝。清康熙年间作为皇帝的行宫进行大规模改建，并更名祝圣寺。现在寺的四周古木苍翠，寺内香烟缭绕，木鱼钟磬之声，不绝于耳，佛图佛像满目，有兴趣者，还可入内与法师交谈，品尝一下南岳著名的素餐斋席。其它如广浏寺、湘南寺、丹霞寺、铁佛寺、方广寺及传法院、黄庭观等，都是明代以前的古镡，规模大小虽不相同，但也各有佳趣。
衡山还是著名的道教名山，汉武帝以南岳名安徽天柱山，隋文帝复以衡山为南岳。道教称第三小洞天，名其岳神为司天王。山有七十二峰，以祝融﹑紫盖﹑芙蓉﹑石廪﹑天柱五峰为著，祝融又为之冠。有黄庭观，传为晋天师道女祭酒魏华存修道处。上清宫乃晋道士徐灵期修行处。降真观，旧名白云庵，乃唐司马承祯修道处。九真观西有白云先生（司马承祯）药岩。五代道士聂师道亦修道於此。
山上寺庙很多，著名的有福严寺、南台寺、藏经殿、方广寺。福严寺规模很大，称为“南山第一古刹”，寺右有一株1400余年的银杏树，树干粗壮，枝叶茂盛。南台寺建于六朝，到现在已有1400多年。日本佛教曹洞宗视南台寺为祖庭。藏经殿因明太祖赐大藏经一部存放于此，故名藏经殿。其周围层峦叠翠，古木参天，景色秀丽，附近有摇钱树、同根生、连理枝等奇树以及允春亭、梳妆台、钓鱼台等古迹。“藏经殿之秀”为南岳四绝之一。方广寺处于南岳峰岭间，古树苍苍，流水潺潺，幽雅深邃，因而有“方广寺之深”的说法。
南岳最大的寺庙是位于衡山脚下的南岳庙。它规模宏大，布局严谨，占地面积多达98500平方米，在南方一带也是数一数二的大庙。南岳庙始建于唐，历代进行重修、扩建，规模不断扩大。现存建筑是清代重修的。整个庙宇有9进，包括正殿、寝宫、御书楼、盘龙亭等建筑。正殿高22米，庄严肃穆，气势雄浑。殿内有72根石柱，象征着衡山七十二峰。正殿中央供奉着“南岳司天昭圣帝”，即祝融神君。南岳庙以总体布局完整著称。