公元313年对于大晋国来说是军事形势最好的一年。虽然在这一年晋怀帝司马炽被刘聪毒死于平阳，恰恰说明此时匈奴汉国的心虚。311年司马炽被俘，刘聪封他为光禄大夫，第二年又改封会稽郡公，仪同三司，并将自己宠信的小刘贵人赐给他，以示自己宽大的胸怀。然而随着匈奴汉国军事上的失利，司马炽的好日子为时不多了。
汉国的领土仅仅局限于今天的山西南部，太岳山麓两侧，汉国的两员大将刘曜和石勒各自率兵在关中（今陕西）和赵魏地区（今河南北部和河北南部）作战。晋朝在关中地区的军队经过大小数百次战斗，屡败刘曜的匈奴军。江淮地区的司马睿将石勒赶过黄河，幽州刺史王浚派出鲜卑段部的军队攻打石勒，石勒的处境非常的窘迫。匈奴的主力又在晋阳遭受失败，形势一片大好，所以刘琨提出消灭匈奴汉国的建议，得到了长安诸将的强烈支持，他们拥立晋武帝司马炎的孙子年仅十四岁的司马邺为首领，意图迎回晋怀帝。
匈奴汉主的刘聪却在大修宫殿，选美人，下令挑选大臣们女儿中有姿色的入宫，竟把大臣刘殷的两个女儿、四个孙女一并纳入宫中充当嫔妃。靳准的两个女儿靳月光、靳月华也封了贵嫔，一个皇后不够，设立左右双皇后。妃子多了顾不过来，总不能每夜都一龙数凤，身体受不了呀，也没那么多本钱啊，终于发生红杏出墙，弄得刘聪心神不定，加上前方战事不顺利，晋人整天吆喝迎接晋怀帝，消灭汉国。刘聪开始拿亡国之君司马炽出气，出宫行猎时让司马炽执戟充当侍卫头前开路，大宴群臣时 “使怀帝著青衣行酒”。晋朝士庶痛哭流涕，刘聪心虚下令将司马炽杀死，把从前赐给他的老婆收回仍做贵人，匈奴人就是开放，别人用过的，照旧可以收回来，女人一样。
大晋关中诸将不甘示弱，立马拥戴司马邺为新君，即晋愍帝，发檄天下，共讨汉国。新朝廷任命司马睿为左丞相、大都督，督陕东诸军事；南阳王司马保为右丞相、大都督，督陕西诸军事。下诏三路并进，“令幽、并两州勒卒三十万直造平阳，右丞相宜帅秦、凉、梁、雍之师三十万径诣长安，左丞相帅所领精兵二十万径造洛阳，同赴大期，克成元勋。”希图刘琨和王浚合幽并之兵南下，司马睿率江淮之兵北上，司马保督关中之兵西出。
新朝廷的战略意图是好的，可惜朝廷没有力量控制诸路兵马，诸侯们各怀异心。各路兵马中，只有刘琨是个忠臣，六月份，他与代公猗卢会师于陉北（山西代县），七月，刘琨进据蓝谷，猗卢派遣大将拓跋普根屯兵于北屈（在今山西吉县）准备攻打汉国北境的刘粲。幽州的王浚根本没有出兵的意思，何况石勒已经攻克襄国，对幽州虎视眈眈。最清闲的司马睿也没有北上的想法，不管司马邺怎样催促只是说“江东初平，未暇北伐。”倒是司马睿手下的祖逖接连向司马睿请命北伐，祖逖是范阳高门士族（北州旧姓），前文讲过他与刘琨是好朋友，曾经闻鸡起舞，而且每次总是他把刘琨踢醒，从这件事情上可见二人的优劣，祖逖主动，刘琨被动，祖逖有大志且能坚毅的付诸行动，而刘琨没有毅力改不掉天生的惰性，二人的结果与功绩也是不同的。
祖逖渡江后居住在京口，京口即今江苏镇江，原本荒芜贫瘠，中原战乱，北方人纷纷南渡，过江士庶、流民为避战乱，而又希冀重返故园，京口成为他们聚集地。范阳祖逖、渤海刁协、颍川庾亮、东莞徐澄之、臧琨等所率子弟、部曲、闾里士庶数千余家南渡，世居京口。祖逖有远见卓识，对时局分析比较透彻，他上书司马睿说：“晋室之乱是由宗室争权，自相鱼肉引起的，不是老百姓反对，结果让胡族抓住机会，毒流中土。少数民族占据中原肯定引起汉民的反抗，大王您如果出兵的话，再用我这样人率领去收复中原，郡国豪杰，必然望风响应。”虽然他说晋室之乱是由宗室争权引起比较偏颇，但他对中原局势看得很准，不过他看不懂司马睿的心理。司马睿绝对不想北伐中原，因为北伐不管胜负与他有害无利。他是皇室疏亲，好不容易在江东站稳脚跟，一旦北伐失利，他如果在江东立足？如果成功的话，司马邺恢复晋朝基业，他身边的那些皇亲功臣必能秉政，怎么会有司马睿什么事儿？他，也包括一些在江东政权获得利益的士族也不愿意让关中集团得势，更不能让祖逖这种有名望，有大志的人去做统领，司马睿心里断然拒绝北伐。
