对于那些心存晋室的坞堡主，祖逖则做争取团结的工作。如赵固、上官巳、李矩、郭默等，依附者众多，都有相当势力，但互相攻战。经祖逖派人调解，说明利害祸福，他们彼此和解，都愿意接受祖逖指挥。一些坞堡主原先归附石勒，并送了人质，现在倾向于晋，但不便公开归附。祖逖体谅他们的难处，听随他们私下保持“两属”关系，还不时派兵伪装抄掠他们，造成他们未归属晋的假象，以掩护他们的“两属”关系。这些坞堡主对祖逖十分感戴，石勒方面有什么举动，他们即秘密报告。正是由于利用这些情报，祖逖先后打了许多胜仗。
祖逖的北伐取得很大成果，收复黄河以南大片地方，“由是黄河以南尽为晋土”。祖逖“爱人下士，虽疏交贱隶，皆恩礼遇之”。“其有微功，赏不逾日。躬自俭约，劝督农桑，克己务施，不畜资产，子弟耕耘，负担樵薪，又收葬枯骨，为之祭醊，百姓感悦。尝置酒大会，耆老中坐流涕曰：‘吾等老矣！更得父母，死将何恨！’乃歌曰：‘幸哉遗黎免俘虏，三辰既朗遇慈父，玄酒忘劳甘瓠脯，何以咏恩且歌舞。’其得人心如此。”东晋朝廷为祖逖进位镇西将军。
石勒因祖逖日益强大，“不敢窥兵河南”，还命幽州修缮祖逖的祖父和父亲的墓地，又给祖逖写信，要求互通使者和开展贸易。祖逖不予回信，而听任双方互市。结果收利十倍，公私丰赡，兵马日益发展壮大。
正当祖逖准备乘势渡过黄河、扫清河北的时候，晋元帝司马睿派广陵人戴渊为都督兖、豫等六州诸军事、司州刺史，出镇合肥，祖逖也归他指挥。祖逖认为他是吴人，虽有才学和声望，但无宏图远见，且自己披荆斩棘收复河南地方，而戴渊毫不费力却大摇大摆来管辖，心里不平。他又得知王敦与刘隗、戴渊等争权夺利，内战即将爆发，统一的大业难以成就，于是愤激得病，但仍图进取不辍。他将妻子儿女等安置在汝南大木山下。当时中原地区人士都认为他应当进据武牢，而反将家人安置于险要之地，有人曾加劝阻。祖逖没有采纳，以此表明继续北进的决心。他还营缮武牢城。该城北临黄河，西接成皋，四望甚远。又恐其南无坚垒，必为敌人所攻袭，派其侄汝南太守祖济率众筑垒。垒未筑成，晋矢兴四年（公元321）祖逖病死于雍丘，时年56岁。豫州百姓如丧考妣，十分悲痛，纷纷立祠纪念他。东晋朝廷追赠他为车骑将军。
随后，东晋以祖逖的弟弟祖约为平西将军、豫州刺史，率领祖逖的部众。祖约没有安抚指挥的才能，得不到士卒拥护。祖逖原来的部众有的开始离去，如范阳人李产因北方动乱，希望保全宗族，远来依附祖逖，后来通过观察祖约的所作所为，失去信心，便率领子弟十余人返回乡里。石勒因祖逖死去，也无所顾忌，一再侵袭黄河以南地区，第二年冬，攻陷襄城、城父，包围谯城。祖约不能抵御，退屯寿春，石勒攻取陈留。许多原来归附祖逖的坞堡主归附了石勒。祖逖收复经营的黄河以南大片地方，又为石勒所据，当地百姓又陷于民族压迫的苦难之中。
削弱王氏，巩固专制
江南士族虽然支持和参加东晋政权，但他们与北方士族的矛盾还是很尖锐的，斗争还不时表面化。东晋政权以北方士族为主体，他们“多居显位，驾御吴人，吴人颇怨”。北方士族之间以及他们与司马氏之间的矛盾也日趋尖锐。王导、王敦权位日重，王敦更欲专制朝廷，有夺取帝位的野心，司马睿肯定不希望身边有王氏存在而威胁自己的统治，在隐忍一段时间之后，他开始出手了。
司马睿继续对王导、王敦加封了官职，但是态度上十分冷淡。凡是重要的军国大计，他只与尚书令刁协及调外任丹阳尹却仍兼侍中的刘隗密议。在刁、刘二人的策划之下，司马睿制定了一系列限制大族势力、加强皇权的所谓“刻碎之政”。公元318年一年之内，司马睿两次下诏整饬吏治。第一次的时间在3月，诏书一面对清静为政加以肯定，一面却又表示要惩办不法官吏。第二次下诏在7月，司马睿的语气转变为十分严厉，除命令各级官吏“祗奉旧宪，正身明法，抑齐豪强，存恤孤独，隐实户口，劝课农桑”外，还要求“州牧刺史当互相检察，不得顾私亏公。长吏有志在奉公而不见进用者，有贪婪秽浊而以财势自安者，若有不举，当受故纵蔽善之罪；有而不知，当受暗之责”。他还亲自下令处决了桂阳太守程甫、徐州刺史蔡豹等几个违制的官吏，其中程甫是王敦的亲信。
对于司马睿的行动，王导很快作出反应。他派遣八部从事巡行扬州诸郡。在听取他们归来的汇报时，王导对顾和的议论大加褒扬。顾和出身于吴郡望族，他反对朝廷对各级官吏所进行的调查，主张“宁使纲漏吞舟”，不“以察察为政”。这种纵容官吏贪污、豪强兼并的主张正是王导施政的主导思想。王敦的反应远比王导激烈，他写了一封言辞激烈的上疏给司马睿。在上疏中，王敦夸耀他们弟兄在草创东晋政权中的功劳，为王导在朝内所受的冷遇鸣不平，并发泄了对司马睿的强烈不满。他还威胁说：“圣恩不终，则遐迩失望，天下荒弊，人心易动”，表示要采取适当的行动。
王敦自恃专任阃外，手握强兵，有大功于江左，一向看不起司马睿。司马睿称帝之时，王敦曾有心废他。矛盾激化后，王敦逐渐滋生了取而代之的政治野心。他一直不敢贸然起兵，主要是畏惧两位同样掌握军权的外藩：梁州刺史周访和豫州刺史祖逖。
周访升任梁州刺史是在公元317年10月。当时在荆州竟陵地区有一个以杜曾为首独立的武装力量。杜曾曾多次打败过陶侃，并北袭襄阳、宛城，使王敦派去的荆州刺史王廙无法进入江陵。时任豫章太守的周访受命救援。在沌阳，周访以少胜多连败杜曾，得封梁州刺史。公元319年，司马睿以王廙在荆州滥杀引起民怨为由，将其调入建康，改派周访为荆州刺史。王敦害怕周访据大州对他构成威胁，遂自领荆州。当初，王敦惧怕杜曾，曾对周访许愿说，如能擒杀杜曾将荐举他为荆州刺史。就在司马睿调王廙入京之前，周访攻灭了杜曾，但王敦并不履行诺言。周访对王敦的出尔反尔、食言而肥的做法非常气恼。他在襄阳努力务农训兵，休养生息，伺机对王敦进行报复。
祖逖打败石虎收复谯县后，陆续降服了许多中原坞主和割据武装，黄河以南的土地皆归晋有。祖逖士马强盛、粮储丰足，随时准备推锋越河，扫清冀朔。祖逖的兵力虽然全部集中在北方前线，但是他的威望和影响却对王敦有着巨大的震慑力，使得王敦不能不有所顾虑。公元320年8月，周访病死。王敦消除了一块心病，遂起用沈充、钱凤等人积极谋划起兵前的部署。
与此同时，司马睿一面继续排斥王导，削弱他的实际权力；一面努力布置对王敦的防范。公元320年年底，他拒绝王敦以沈充为湘州刺史的请求，派遣宗室谯王司马承出镇湘州。临行前，司马睿对叔父讲，王敦图谋不轨已经公开暴露，惠皇帝受制于强臣的命运离自己不会太远了。湘州据大江上游，控驭荆、交、广三州，位置十分重要。他希望叔父去那里能够牵制王敦的行动。
鉴于东晋政府的绝大部分军队皆掌握在各地的外藩手中，司马睿迫切地需要扩建能为自己所用的军队，以对付王敦。公元321年5月，在刁协的建议下，他下诏调发沦落到扬州地区大族家为奴或者为客的北方平民，免除他们的奴客身份，编入兵籍。司马睿将他们分别配给亲信刘隗和戴渊所统领的军府。为保证诏令的顺利执行，司马睿颁布了给客制度。给客制度是在西晋荫客制度基础上，根据东晋社会的实际制定的政策。给客制度除对第一、二品官职荫佃客户数的规定比旧制有所减少外，以下各品皆有大幅度的增加，如第三品由原来的10户增至35户，第四品由7户增至30户，最低的八品、九品也由原来的1户增至10户、5户。给客制度保留了旧制的荫衣食客人数，又增加了荫典计人数的规定。给客制度再一次从法律上肯定土族地主私占人口的权力，反映了东晋时期土族地主的强大以及皇权对它的软弱和依赖。当然，这一制度同样反映了地主国家同地主分子在劳动人手方面的激烈争夺。因为司马睿颁布给客制度的主要目的是限制大族对国家人口的过度侵吞，并把他们超过规定的私占人口强征为国家所有。通过征客为兵，司马睿得到了大量的兵员，配给刘、戴两个军府的人数各在万人以上。
当年七月，司马睿以尚书仆射戴渊为征西将军，都督司、兖、豫、并、冀、雍六州诸军事、司州刺史，镇守合肥；以丹阳尹刘隗为镇北将军，都督青、徐、幽、平四州诸军事、青州刺史、驻守淮阴。戴、刘二人假节领兵出镇，名义上是对付北方的少数族，实际上是司马睿在继司马承出镇湘州后的另一防范王敦的重要军事部署。
所有这一切，都为了东晋王朝的繁荣和稳固。当然，就在此后不久，即公元322年，王敦发兵向建康进攻并大获成功，最终使得东晋王朝四分五裂。
东晋（公元317-420）灭亡之后，中国历史进入到了南北朝时期。实际上还在东晋时期，东晋王朝偏安江南，北方各国（逐渐发展兼并的国家有16个）则战乱不止，处于四分五裂状态，所以史称东晋十六国。在这十六国的斗争中，北魏逐渐强大起来。
北魏是鲜卑拓跋氏建立的一个封建政权。拓跋氏最早居住在今内蒙古鄂伦春自治旗阿里河镇西北10公里的大兴安岭北部东麓。东晋早期，拓跋氏内迁于云中一带，后迁居定襄盛乐，成为塞上一支强大的武装力量。公元378年，其首领拓跋什翼健在繁峙即代王位，具有了国家规模。公元386年，拓跋什翼健之孙拓跋珪在牛川建魏，史称北魏（公元386-534）。北魏在孝文帝统治时期，开始由奴隶制向先进的封建制度转化，并先后在政治、经济和社会风俗等方面进行了一次自上而下的汉化改革，推动了生产力的发展，社会性质发生了重大改变，出现了崛起与中兴的景象。继孝文帝之后，自宣武帝至孝武帝时期，佞臣当道，朝纲不纪，国势日衰，北魏进入内乱时期。公元534年，北魏分裂为东魏和西魏。
公元471-477年，即孝文帝统治时期，北魏崛起与中兴的标志是：
农业生产迅速发展。北魏孝文帝时改变了过去农业与畜牧业并举的局面，而使农业生产在社会经济中占据绝大部分比重，产量大大增加，由此人民生活水平得以提高。
炼钢和手工业有了新发展。相州牵口等许多地方已能冶制锐利的钢刀。造纸、榨油、酿酒、煮盐等行业技术日趋先进。
商业活跃。北魏早期，其商业几乎处于停滞状态，钱币货物无从流通。孝文帝时，当地许多百姓弃农从商，货币恢复流通。商业发展比较发达的洛阳出现许多大市场，货源充足，交易活跃，对外贸易远达西方国家。商贸促进了民族融合，使鲜卑族等少数民族成为汉族的一部分。
雕刻艺术水平空前提高。孝文帝时及其前后，其雕刻艺术在继承秦汉以来中国传统艺术的基础上又有很大提高，集中表现在当时的石窟寺中。北魏时期的石窟分布比较广泛，西起甘肃东到辽宁，至今还保存着着名的河南洛阳龙门石窟、大同云冈石窟、甘肃敦煌石窟、甘肃天水的麦积山石窟、永靖的炳灵寺的石窟等。在这些石窟寺中所塑造出来的大量佛像，代表了当时中国雕塑艺术的最高水平，而如今它们也称得上是世界艺术宝库。
孝文帝时期之所以出现中兴的局面，其主要的治国措施是：进行班禄制改革，严肃吏治；推行均田、“三长”制度；迁徙都城，大力提倡汉化；选贤治国，直言纳谏。
