晋愍帝建兴四年（316年）八月，刘曜率领匈奴军攻破长安，晋愍帝司马邺投降，最后受辱被杀。至此，统治北方52年，统治全国只有37年，也就是孙吴帝国灭亡后37年，西晋王朝为前赵所灭。西晋王朝是我国历史上第一个被外族消灭的王朝。而后，匈奴、氐、羯、鲜卑及羌等族，陆陆续续在北方建立了一系列国家，史称“五胡十六国”。
西晋王朝在长安灭亡后，续写北中国历史的权力，就留给了北方的匈奴、羯、氐、鲜卑和羌5个少数民族。但是西晋王朝的另一段历史从长安移到了千里之外的建康（南京），由西晋王室后裔司马睿继续进行。
东晋王朝（318—420年），实际上是由西晋王室后裔司马睿，在建康建立起来的偏安小朝廷，史称东晋。也是历史上第二个在南京建都的王朝，它的统治范围主要是长江以南的半壁河山。但是，南京从此成为正统中华文化的中心。
早在西晋灭亡前三年，即建兴元年（313年），历史上发生了著名的永嘉南渡。永嘉（307—313年）是晋怀帝司马炽的年号。在永嘉之前，中原地区曾发生了长达16年的“八王之乱”，匈奴和羯族的首领刘曜、石勒等趁机率领部众，残酷地屠杀汉人。永嘉四年（310年），刘曜在今河南东部攻下汉人坞堡（一种民间防卫性建筑）100余处。同年，石勒在今湖北襄樊一带攻下坞堡30余处。后又在苦县宁平城（今河南鹿邑）击败晋军主力，晋军死者10余万人。同年，刘曜攻陷晋都城洛阳，纵兵大肆屠杀焚掠，使洛阳化为灰烬。正是在这样的情况下，晋朝中原的汉人官民实在无法忍受，就大量南逃，史称“永嘉南渡”，也称“衣冠南渡”，这里的“衣冠”代表文明的意思。这是中原汉人第一次大规模南迁。整个中原地区的名门望族和精英，以及政府机构、官员、甚至士族家中的佣人和鸡鸭牛马都被带过了长江。
据唐编《晋书》卷65《王导传》：“洛京倾覆，中州士女避乱江左者十六七”。这就是说，有大半的人南迁了。这次以门阀士族为主要力量的大迁徙共有90多万人。有人估计在200万人左右，约占西晋灭亡时汉族人口1500万的七分之一强。
李白《登金陵冶城西北谢安墩》诗云：“晋室昔横溃，永嘉遂南奔。胡马风汉草，天骄蹙中原。哲匠感颓运，云鹏忽飞翻。”（共34句取前6句）
据《话说南京》一书记载：早在1000多年前，南京就已经是个“移民城市”。中国历史上最早的南北人口大融合，就发生在南京。当时有百万北方人南渡来南京，这与1692年前的“永嘉南渡”是十分吻合的。作为南京人的你、我、他，先祖可能就是一千多年前从北方南迁的移民。
当时，琅琊王司马睿为镇东大将军，都督扬、江、湘、交、广5州诸军事，驻建邺。建兴元年（313年）晋怀帝司马炽被刘聪（字玄明，一名刘载，匈奴人，十六国时汉国国君）所杀，晋愍帝司马邺（晋武帝司马炎孙）于长安继立。为避司马邺（晋愍帝司马邺313—316年为西晋末代皇帝）之讳，又将“建邺”改为“建康”（今南京）。
由于大量北方移民涌入南京，不可避免地将北方民族的生活习俗、语言文化、饮食结构带入南京，加上南京自东吴到后来的陈后主被俘，有几百年的都城史，自然要接纳和包容大量的外来文化和语言以及生活习俗。在日久天长的潜移默化中，南京逐步改变了原先单纯的吴语和吴文化结构，吸收了大量的北方元素和其他外来元素，逐步形成了自己独特的生活习俗和人文理念。
那时，东晋政府为了安置这些“流动人口”，建立了一些“侨州”、“侨郡”“侨县”，就是在长江南岸的郡县里划出一块地区，专门让这些“外来人口”居住，而且用北方原来的地名命名，并进行统一管理。如，南兖州，晋南渡后侨置兖州，治广陵，在今江苏江都县东北，南朝宋改曰南兖，后移镇盱眙，今安徽盱眙县治。后并入南徐州，旋复置，还治广陵，又移治淮阴，在今江苏淮阴县南，寻复故。南徐州，东晋时侨置徐州于京口，后曰南徐，即今江苏镇江。东晋时，先后在南京设立的侨郡和侨县有20多个。
朱元璋定都南京建立明王朝后，将南京城内和江南地区的土著家族外迁，大量江淮士族涌入。南京江南文化特色再次受到江淮文化的削弱。而徽皖文化的特色加强了，语言也逐步形成“江淮特色”。
虽然在朱棣年间明朝迁都北京，但南京作为“留都”，依然是“都城”，继续接受外来文化的影响。
晋武帝司马炎，在灭了南京的孙吴王朝统一中国之后，由于司马王朝信奉门阀政治，加剧了社会矛盾的恶化，动摇了晋王室的基础。晋惠帝司马衷末年的“八王之乱”和其他的外患，导致西晋王朝中原沦陷，司马王室被迫南迁。北方的黄河流域则成为各少数民族的逐鹿之地。这个时期，史称“五胡十六国”（304—589年）。
五胡指，匈奴、鲜卑、羯、氐、羌。十六国指，前凉、后凉、南凉、西凉、北凉、前赵、后赵、前秦、后秦、西秦、前燕、后燕、南燕、北燕、夏、成汉。
此外，还有代国、冉魏、西燕、吐(tǔ)谷(yù)浑(hún)等都在16国之外，加起来共有20国。
北方的五胡十六国，同在南京建都立国的东晋王朝等长期对峙，长达130多年。
这里先来说说“司马”这个姓氏。据中国姓氏：司马一姓出自上古周代的一种官职名称。司马管理国家军队，也参与国政，地位非常显赫。周宣王时，一个叫程伯林文的诸侯在朝中当了司马。他的远祖是颛顼帝之后祝融氏重黎。程伯林文与分布于今淮河中下游的徐戎（又称徐夷、徐方）进行战斗，立下了大功。周宣王为示奖励，让他的族人“以官为氏”，改姓司马，并世代相传。
东晋，是司马睿于317年在建康建立的王朝，是继东吴以后第二个在南京建都的王朝，到419年被刘宋王朝取代，历4代11帝，共103年。其中因忧愤而病死1帝、病死5帝、服丹药中毒而死1帝、被废后病死1帝、被勒死1帝、被妃子闷死1帝、椫位后被闷死1帝。但是，总的来说东晋王朝，还是一个社会基本安定，经济、文化得以发展，民众基本安居的朝代。