司马睿安生日子没过多久,石勒打败司马越的大军,率精骑三万入成皋关,与汉国的大军会合。此时刘渊已死,其子刘聪为帝,刘曜、王弥统率汉军与石勒一道攻入洛阳,俘虏晋怀帝。石勒鉴于自身实力弱小,把功劳让给王弥、刘曜,率兵退屯许昌,打败青州刺史苟晞,苟晞降而复叛被杀,纯系咎由自取,随后诱杀汉国重臣王弥。王弥和石勒是占据关东地区匈奴汉国军队中两支最强的队伍,王弥是东莱(山东莱州)士族,晋惠帝末年,随刘伯根起兵反晋,伯根败死后即自领一军,屡败晋军,后归附于老朋友刘渊,刘渊依为心腹,与刘曜、石勒等军一道攻入洛阳,在群雄角逐之中,二人互有相图之心。石勒先行下手杀死王弥,收编其军队,称威关东。匈奴汉国皇帝刘聪闻讯暴跳如雷但对他也是无可奈何,先是派遣使者斥责石勒擅杀大将,目无君王,接着又加封其为镇东大将军,安抚其心,希望他继续为匈奴汉国攻打晋朝军队。
此时晋朝北方重镇中并州刘琨和幽州王浚各自仰仗鲜卑诸部的势力称威一方,石勒认为不能和他们抗衡,把目光瞄向江东。公元312年二月,石勒在葛陂(在今河南新蔡)修筑营垒,课农造舟,将备攻打建业。司马睿大惊,江淮一旦失守,江东危矣,马上征调江南所有兵马屯于寿春(安徽寿县),以镇东长史纪瞻为扬威将军,都督诸军讨伐石勒。
石勒的军队遭逢大雨,三月不止,军中饥疫流行,死者太半。天时不利,军粮不继,人心惶惶,石勒进退两难,召集文武商议对策,张宾献上了著名的“葛陂对”,分析天下形式,提出战略方针,指明石勒的出路,奠定了后赵国的基石。
他首先提到不能依附晋国,不讲和。“将军攻陷京师,囚执天子,杀害王公,妻略妃主,擢将军之发,不足以数将军之罪,奈何复相臣奉!”然后又认为南下条件不成熟,建议放弃南下计划,“去年既杀王弥,不当来此;今天降霖雨于数百里中,示意将军不应留此地。”江东地势险要,有大江天险,三国曹操六越巢湖不成,江东不是那么好打的,本来就不该来。“将军您转战南北,流行羁旅,人无定志,难以保万全、制天下。”没有根据地,流动作战也不成,既然南下之路不通,就该转而北上,取河北!他说“邺有三台之固,西接平阳,山河四塞,宜北徙据之,以经营河北,河北既定,天下无处将军之右者矣。”河北是中原的中心,打下河北,天下就没有超过将军您的了。现在晋军近在寿春,撤军会不会招致追击呢?张宾又说:“司马睿之所以大发江南之兵而来,是怕我们取建业,如果我们退兵,他们高兴都来不及,怎么会追击呢?” 张宾看透江东将相,司马睿作为一个帝室疏亲初到江东,必定不被江东士族重视,看看统兵的将领就知道,纪瞻是江南望族,江南之兵怕不是司马睿能够指挥的,他现在第一任务就是安定江东,不出问题,怎么肯出来和我们打仗呢。接着,张宾又制定了撤军的方案,让辎重先走,将军您亲率大军逼向寿阳,等到辎重远去,再率轻军北上,如此一来,何忧进退无地!
石勒大喜,黑暗之中看到光明如何不喜,撩衣襟吹胡子很是得意,马上把先前的长史罢黜掉,升张宾为右长史,从此不称其名,号“右侯”。石勒采用张宾之计,派侄子石虎率骑兵二千为先锋向寿春转进,亲率大军接应,却命令辎重部队北退。纪瞻果然不敢攻击,退回寿春死守。