自从晋愍帝即位以来，西晋的局势每况愈下。长安城几乎每年都要遭到汉将刘曜军队的进犯。虽然刘曜每次都被击退，但是长安的形势却在慢慢变坏。石勒已经占领关东大部分地区，位于汉中一带的李雄的成国盘踞在长安以南地区，距离长安较远的洛陽附近地区和山西南部地区已经被汉国控制，远在江南的琅邪王司马睿也有一定的实力。
在西晋王朝危机四伏的局面下，琅邪王司马睿打起了自己的小算盘。他很清楚，长安已经危如累卵，难逃被攻克的命运，而长安城一旦被攻克，那么他就非常有机会坐上皇帝的宝座。因此，他根本不想出兵救长安。尽管有一些像祖逖这样身处江南的晋朝人主张北伐，但是司马睿只给他们开一些空头支票，让这些人徒呼奈何。
公元316年，晋愍帝成为俘虏，统治三十六年的西晋王朝灭亡。
晋愍帝在被俘之前，曾写下一份由司马睿来继承皇位的密诏。弘农太守宋哲把这份密诏藏在身上，悄悄地逃出了长安，经过长途跋涉，终于赶到建康（今江苏南京），与琅琊王司马睿相见。
司马睿的祖父司马伷是司马懿的庶出之子，在曹芳统治时期被封为南安亭侯。后来，司马懿发动高平陵政变，成功地控制了曹魏政府的实权。为了消灭魏国，为登基称帝做好充分的准备，司马懿让自己几个儿子分别担任境内几个重要地区的都督。司马懿对司马伷颇为重视，将曹魏时期囤兵囤粮的重镇邺城交给他镇守。西晋建国后，司马伷先担任尚书右仆射、抚军将军、镇东大将军、假节、都督徐州诸军事等职，后来被封为东莞郡王，后又被封琅邪王。司马伷死后，他的长子司马觐继承了琅邪王的爵位。司马觐是司马睿的父亲。司马觐死后，司马睿便继承了琅邪王的爵位。
司马睿看到密诏后非常高兴，立即准备登基。他戴上皇冠，穿上龙袍，坐到龙椅上。文武百官跪到地上，山呼万岁。司马睿宣布，他登基之后国号仍然为晋，定都建康，年号为大兴。这一年是公元318年，也就是大兴元年，司马睿被称为晋元帝。历史上将这个政权称为东晋，以便与已经灭亡的西晋区分开。
东晋政权在建立和巩固的过程中，得到了多方面的支持。首先得到了江南本地的地主豪强的支持。
这些地主豪强的势力虽然弱于南迁的北方士族，但是在地方上依然有着非常重要的影响。在这些地主豪强中，社会声望最大的是周氏。周札一门五侯，周玘三次平定江南，他们兄弟二人是江南士族的首领。此外，陆晔、纪瞻、顾荣、贺循、华谭等人也都是江南重要的士族。他们大多担任文职官员，在东晋政权建立初期发挥了非常重要的作用。
刘琨、段匹磾、张轨、慕容廆、邵续、陈安等边将，对东晋政权的建立也有着非常重要的作用。尽管他们中的大部分在战争中牺牲，但是他们表现出了忠肝义胆，非常令人钦佩。如果没有他们在北方艰苦作战，阻挡北方少数民族势力向江南发动攻势，那么东晋根本不可能顺利地建立政权。
侨民在巩固东晋政权过程中，也发挥出了非常重要的作用。由于受到中原战乱的影响，很多无家可归的北方百姓逃到南方。东晋政府接纳了这些流亡的百姓，在江淮地区建立了很多的侨置郡县来安置他们。这些侨民是保护东晋政权的屏障，后来，这些侨民与江南当地的百姓进一步融合，对南北方的经济、文化、社会交往起到了加强作用。