梁武帝信佛之后，不近，不吃荤，不仅他这样做，还要求全国效仿：以后祭祀宗庙，不准再用猪牛羊，要用蔬菜代替。他吃素，要神灵也吃素。这个命令下达之后，大臣议论纷纷，都反对。最后，萧衍允许用面捏成牛羊的形状祭祀。
有关史籍记载，梁武帝曾会见过佛教禅宗创始人菩提达摩（意译为道法，是达摩已通达到法的意思）。菩提达摩（?—536年），中国禅宗初祖。南天竺婆罗门（印度南部）人，也有人认为他是波斯（今伊朗）人。原名菩提多罗，是南天竺香玉王的第三子，禅宗二十七至祖般若多罗到该国传法，菩提多罗从他学法，很得般若多罗的赏识，就给他改名为达摩，意译为道法，是达摩已通达到法的意思。梁武帝重佛，声名远播海外。千陀利（古代东南亚的一个小国）人甚至称他为中国的“圣主”，“是我真佛”。普通年间（520—527年），菩提达摩得悉梁武帝重视佛教，特地从海路乘船来到广州，想亲自体验一下梁朝重视佛教的盛况。梁武帝久闻其名，急命负责外事的官员把菩提达摩请到建康。有人说，达摩祖师到中国来的时候已经有150岁了。
菩提达摩来到建康后，梁武帝将他迎入宫中，受到热情接待。梁武帝委婉和善地问菩提达摩：“朕即位以来，广造佛寺，整理经文，超度众生，可不可以算是有功德呢？”
菩提达摩答道：“这算不上什么功德，佛家主张罪福并舍，空有兼忘，反对有为之善。参禅不可拘于形迹，须由静生智，由智生明，从空寂中体会经义，才算得上有功德！”
梁武帝又问：“朕在华林园中，汇集了许多浮屠经典，高僧前来，能否为朕逐日讲解，指点迷津呢？”
菩提达摩微笑着说道：“佛学在心不在口，极口阐释，实非上乘，所以明心见性，自能成佛，不在区区经论！”
梁武帝本来以为菩提达摩会称颂他的礼佛赤诚，没料到被他两番驳斥，反倒弄得哑口无言。两人彼此言谈不契，不欢而散。
菩提达摩离宫后，骑着一匹骡子上路。准备经幕府山渡江北上。梁武帝获悉达摩即将北上，急派人骑骡追赶，但追到幕府山西、北二峰峡谷时，二峰骤然闭合，将骡群夹在其中，所以被称为夹骡峰（今南京幕府山西北）。而达摩则折苇投水，飘然渡江北去。夹骡峰下又有达摩洞，传说菩提达摩渡江北上时，途中曾在此洞休息。后来，在幕府山就留下了“达摩洞”这个名胜。
幕府山在今南京市中央门外，其西、北二峰合称夹萝峰，夹萝峰下有达摩洞遗迹。幕府山高205米，北临大江，为历代的南京北门户。有数座高峰，主峰北固峰偏南，峰下有若干石洞。中峰名胜颇多，有仙人洞和虎跑泉等。西、北二峰因达摩的传说，又被称为夹骡峰。达摩洞在山半腰，山下有“渡狮石”之地名，应为“渡师石”。峰下还有五马渡等名胜。五马渡为东晋元帝的渡江处。幕府山及周边的象山、老虎山，为东晋世家大族中的王氏和颜氏的族葬地。
据传，位于南京浦口的定山古寺始建于天监二年（503年）。后禅宗祖师达摩一苇渡江后驻锡于此。目前定山寺还留有两处重要遗迹，一处是寺后的山坡竹林里有一个石碑，上面刻有达摩一苇渡江图，达摩络腮圆眼，拱手立于渡江芦苇之上，还刻有“大明弘治四年辛亥三月季春定山释子八十翁净×云建立”字样。
之后，菩提达摩卓锡（僧人居留）嵩山少林寺，面壁9年，创立佛教禅宗。菩提达摩后遇慧可，授以《楞伽经》四卷。慧可承受了他的心法，于是禅宗得以流传。禅宗六传至唐代高僧慧能，得以发扬光大，成为中国流传最广的佛教派别。在通俗侠义小说中，菩提达摩也成了少林武功的创始者。东魏天平三年（536年）卒于洛滨，葬熊耳山（今河南宜阳县）。
菩提达摩端居而逝后，梁武帝悔恨当初未悟其直示心印，遂给菩提达摩撰写碑文，以表达自己因语不投机而失之交臂的怨悔心情。碑文云：“嗟夫，见之不见，逢之不逢，遇之不遇，今之古之，怨之恨之……。”
说到寺庙，就不能不提瓦官寺，也称瓦棺寺。瓦官寺建于东晋哀帝兴宁二年（364年)，比同泰寺早了160多年。位于东晋都城西南小长干山岗下，在今天南京中华门内西南隅花露岗凤凰台上，晋贤阮籍古墓之北，当年曾建有保存艺术珍品最丰富的瓦官寺。原为东晋政府官营的陶器作坊，称为“瓦官”，所以又称瓦官寺。寺内有大雕塑家戴逵（东晋时期著名的雕塑家和画家）和戴顒父子铸造的5尊夹紵佛像(一说铜佛像)、著名画家顾恺之（东晋画家、中国最早的佛画家之一）所作的维摩诘壁画、狮子国(今斯里兰卡)赠送的高4尺2寸的白玉佛像，被称为瓦官寺的“三绝”。
顾恺之在瓦官寺大殿外西壁上作壁画《维摩诘像》轰动一时。《建康实录》详细地记载了这件盛事。瓦官寺落成之后，寺里设会场把当朝显贵请来击鼓撞钟，捐施钱财。当时在捐簿上承捐数目最多的也没有超过10万钱的，而当时年仅20岁的顾恺之却言称要捐钱百万，令众人瞠目结舌。他要求寺里的和尚粉刷一面空白墙壁，然后闭门不出，用了一个多月时间，在寺壁上精心绘制了一幅维摩诘像（“维摩诘”即梵文的直译音，汉语意为“净名居士”）。当这幅巨大壁画基本完成，将要给维摩诘点眼珠之际，顾恺之请寺僧打开大门，让民众参观，并规定，头一天来观看的人，捐钱10万，第二天5万，第三天随意捐钱。头一天，许多人为了争睹顾恺之“开光点眼”，涌入瓦官寺。顾恺之当众起笔点睛，说也神奇，只那么一点，整个画像便活龙活现。民众闻讯而来，很快的，100万钱便凑足了。这幅维摩诘壁画像也就成为他的名作。
梁武帝时，在瓦官寺建造台殿，并更名为瓦官阁。瓦官阁，高20余丈，非常雄伟，是当时建康城的最高建筑。因距离当年的长江很近，所以在日照下，阁影可以映入江中，是当时眺望江中景色的一处名胜。唐代大诗人李白曾登临此阁，留下了一首诗：
晨登瓦棺阁，极眺金陵城。钟山对北户，淮水入南荣。
漫漫雨花落，嘈嘈天乐鸣。两廊振法鼓，四角吟风筝。
杳出霄汉上，仰攀日月行。山空霸气灭，地古寒阴生。
寥廓云海晚，苍茫宫观平。门馀阊阖字，楼识凤凰名。
雷作百山动，神扶万栱倾。灵光何足贵，长此镇吴京。
可惜瓦官阁在南唐灭亡时被毁。在瓦官寺的东面，还有一处南朝名胜叫做“凤凰台”。相传，南朝宋元嘉年间，有凤凰来集于此，时人因建此台。李白有《登金陵凤凰台》诗，描述登望所见之景：“凤凰台上凤凰游，凤去台空江自流。吴宫花草埋幽径，晋代衣冠成古丘。三山半落青天外，二水中分白鸳洲。总为浮云能蔽日，长安不见使人愁。”
当时在建康城（今南京城）比较有名的还有栖霞寺，建于南齐永明年间，明僧绍舍宅为寺，建“栖霞精舍”，唐为“天下四大寺山”之一，清乾隆皇帝建“栖霞行宫”于寺后。寺毁于太平军与清军兵火，光绪年间重建。
栖霞寺千佛崖，为江南仅有的南朝石窟。南齐永明二年（484年）开凿“无量殿”于西岩石壁，无量佛座像高三丈二尺五，两侧观音至两菩萨均高三丈，合称“西方三圣”；以后历年凿刻，至梁武帝时已形成石刻群。
粱元帝萧绎为湘东王时，撰《摄山栖曩寺碑铭》，文辞典雅，对仗工整，将栖霞寺描摹得仿佛化外仙境。陈时，陈后主曾与宠臣江总同游摄山栖霞寺并赋诗记游。江总还撰有《摄山栖曩寺碑》碑文。
栖霞寺舍利塔，初建于隋仁寿元年（601年），后于唐会昌年间被毁，南唐重建石塔。
今日栖霞寺舍利塔，始建于南齐建元年间（479—482年），在栖霞山的东西两峰环抱中。唐代时，栖霞寺与山东灵岩寺、湖北玉泉寺、浙江国清寺并称为我国“四大寺山”。寺前有纪念明僧绍的“明征君碑”，为唐高宗李治撰。栖霞寺原建筑多毁于兵火。清光绪三十四年（1908年）相继修葺，近几年又几经修整，得到很好的保护。