晉愍帝建興四年（316年）八月，劉曜率領匈奴軍攻破長安，晉愍帝司馬鄴投降，最後受辱被殺。至此，統治北方52年，統治全國只有37年，也就是孫吳帝國滅亡後37年，西晉王朝為前趙所滅。西晉王朝是我國歷史上第一個被外族消滅的王朝。而後，匈奴、氐、羯、鮮卑及羌等族，陸陸續續在北方建立了一系列國家，史稱「五胡十六國」。
西晉王朝在長安滅亡後，續寫北中國歷史的權力，就留給了北方的匈奴、羯、氐、鮮卑和羌5個少數民族。但是西晉王朝的另一段歷史從長安移到了千里之外的建康（南京），由西晉王室後裔司馬睿繼續進行。
東晉王朝（318—420年），實際上是由西晉王室後裔司馬睿，在建康建立起來的偏安小朝廷，史稱東晉。也是歷史上第二個在南京建都的王朝，它的統治範圍主要是長江以南的半壁河山。但是，南京從此成為正統中華文化的中心。
早在西晉滅亡前三年，即建興元年（313年），歷史上發生了著名的永嘉南渡。永嘉（307—313年）是晉懷帝司馬熾的年號。在永嘉之前，中原地區曾發生了長達16年的「八王之亂」，匈奴和羯族的首領劉曜、石勒等趁機率領部眾，殘酷地屠殺漢人。永嘉四年（310年），劉曜在今河南東部攻下漢人塢堡（一種民間防衛性建築）100余處。同年，石勒在今湖北襄樊一帶攻下塢堡30余處。後又在苦縣寧平城（今河南鹿邑）擊敗晉軍主力，晉軍死者10余萬人。同年，劉曜攻陷晉都城洛陽，縱兵大肆屠殺焚掠，使洛陽化為灰燼。正是在這樣的情況下，晉朝中原的漢人官民實在無法忍受，就大量南逃，史稱「永嘉南渡」，也稱「衣冠南渡」，這里的「衣冠」代表文明的意思。這是中原漢人第一次大規模南遷。整個中原地區的名門望族和精英，以及政府機構、官員、甚至士族家中的佣人和雞鴨牛馬都被帶過了長江。
據唐編《晉書》卷65《王導傳》︰「洛京傾覆，中州士女避亂江左者十六七」。這就是說，有大半的人南遷了。這次以門閥士族為主要力量的大遷徙共有90多萬人。有人估計在200萬人左右，約佔西晉滅亡時漢族人口1500萬的七分之一強。
李白《登金陵冶城西北謝安墩》詩雲︰「晉室昔橫潰，永嘉遂南奔。胡馬風漢草，天驕蹙中原。哲匠感頹運，雲鵬忽飛翻。」（共34句取前6句）
據《話說南京》一書記載︰早在1000多年前，南京就已經是個「移民城市」。中國歷史上最早的南北人口大融合，就發生在南京。當時有百萬北方人南渡來南京，這與1692年前的「永嘉南渡」是十分吻合的。作為南京人的你、我、他，先祖可能就是一千多年前從北方南遷的移民。
當時，瑯琊王司馬睿為鎮東大將軍，都督揚、江、湘、交、廣5州諸軍事，駐建鄴。建興元年（313年）晉懷帝司馬熾被劉聰（字玄明，一名劉載，匈奴人，十六國時漢國國君）所殺，晉愍帝司馬鄴（晉武帝司馬炎孫）于長安繼立。為避司馬鄴（晉愍帝司馬鄴313—316年為西晉末代皇帝）之諱，又將「建鄴」改為「建康」（今南京）。
由于大量北方移民涌入南京，不可避免地將北方民族的生活習俗、語言文化、飲食結構帶入南京，加上南京自東吳到後來的陳後主被俘，有幾百年的都城史，自然要接納和包容大量的外來文化和語言以及生活習俗。在日久天長的潛移默化中，南京逐步改變了原先單純的吳語和吳文化結構，吸收了大量的北方元素和其他外來元素，逐步形成了自己獨特的生活習俗和人文理念。
那時，東晉政府為了安置這些「流動人口」，建立了一些「僑州」、「僑郡」「僑縣」，就是在長江南岸的郡縣里劃出一塊地區，專門讓這些「外來人口」居住，而且用北方原來的地名命名，並進行統一管理。如，南兗州，晉南渡後僑置兗州，治廣陵，在今江蘇江都縣東北，南朝宋改曰南兗，後移鎮盱眙，今安徽盱眙縣治。後並入南徐州，旋復置，還治廣陵，又移治淮陰，在今江蘇淮陰縣南，尋復故。南徐州，東晉時僑置徐州于京口，後曰南徐，即今江蘇鎮江。東晉時，先後在南京設立的僑郡和僑縣有20多個。
朱元璋定都南京建立明王朝後，將南京城內和江南地區的土著家族外遷，大量江淮士族涌入。南京江南文化特色再次受到江淮文化的削弱。而徽皖文化的特色加強了，語言也逐步形成「江淮特色」。
雖然在朱棣年間明朝遷都北京，但南京作為「留都」，依然是「都城」，繼續接受外來文化的影響。
晉武帝司馬炎，在滅了南京的孫吳王朝統一中國之後，由于司馬王朝信奉門閥政治，加劇了社會矛盾的惡化，動搖了晉王室的基礎。晉惠帝司馬衷末年的「八王之亂」和其他的外患，導致西晉王朝中原淪陷，司馬王室被迫南遷。北方的黃河流域則成為各少數民族的逐鹿之地。這個時期，史稱「五胡十六國」（304—589年）。
五胡指，匈奴、鮮卑、羯、氐、羌。十六國指，前涼、後涼、南涼、西涼、北涼、前趙、後趙、前秦、後秦、西秦、前燕、後燕、南燕、北燕、夏、成漢。
此外，還有代國、冉魏、西燕、吐(t )谷(y )渾(h n)等都在16國之外，加起來共有20國。
北方的五胡十六國，同在南京建都立國的東晉王朝等長期對峙，長達130多年。
這里先來說說「司馬」這個姓氏。據中國姓氏︰司馬一姓出自上古周代的一種官職名稱。司馬管理國家軍隊，也參與國政，地位非常顯赫。周宣王時，一個叫程伯林文的諸侯在朝中當了司馬。他的遠祖是顓頊帝之後祝融氏重黎。程伯林文與分布于今淮河中下游的徐戎（又稱徐夷、徐方）進行戰斗，立下了大功。周宣王為示獎勵，讓他的族人「以官為氏」，改姓司馬，並世代相傳。
東晉，是司馬睿于317年在建康建立的王朝，是繼東吳以後第二個在南京建都的王朝，到419年被劉宋王朝取代，歷4代11帝，共103年。其中因憂憤而病死1帝、病死5帝、服丹藥中毒而死1帝、被廢後病死1帝、被勒死1帝、被妃子悶死1帝、位後被悶死1帝。但是，總的來說東晉王朝，還是一個社會基本安定，經濟、文化得以發展，民眾基本安居的朝代。