一、中央军事领导机构
曹魏咸熙二年(265年)，司马炎代魏称帝，建立西晋。西晋建立后，晋武帝司马炎以皇帝身份亲自掌握全国军政大权，直接领导和指挥全国军队。同时，晋武帝另设尚书省为全国行政中枢，协助他掌理军政事务。此时的尚书省六曹尚书，没有主管兵事的尚书，但尚书诸曹郎中有左右中兵、左右外兵、别兵、都兵、骑兵等曹郎，主管兵事日常工作。西晋灭吴后，晋武帝在尚书省六曹尚书中没置五兵尚书一职，其下再设左右中兵、左右外兵、别兵、都兵、骑兵等曹郎，主管全国军政事务。此后直至东晋，五兵尚书历朝沿置，成为两晋主管全国军事日常事务的国家军事领导机关①。
中书省也是两晋历朝沿置的官署，由于它接近君主的特殊身份，对于军国大事的谋划、决策常可参预，因此也可视其为皇帝身边的军事决策机构。
晋武帝代魏称帝后，为优宠高门大族，设置太宰、太傅、太保、太尉、司徒、司空、大司马、大将军等八公。八公中的太尉、大司马、大将军，都是汉魏时期掌管全国军政事务的高级武官，此后直至东晋，历朝大体都设有此类职衔。一般情况下，两晋期间这一类职衔常为虚职，地位虽高，却未必握有军政大权。但有时亦有实权，如西晋贾充，就曾以太尉身份出任大都督，总统灭吴大军。及至东晋，更
——————————
①《晋书》卷二十四《职官志》。
常有权臣以此类职衔兼都督中外诸军事操纵朝政。
两晋时期，设有都督中外诸军事一职。任此职者，有权指挥全国军队，职权甚重。西晋初年，晋武帝曾以宗室司马孚任此职。八王之乱时，宗室诸王先后出任此职控制朝政。东晋时，任此职者大多为权臣。
西晋设中领军，资望高者为领军将军，统率京城内禁军。又设中护军，资望高者为护军将军，统率驻守在京城外的禁军。如贾充转中护军，“统城外诸军”①。司马允领中护军，仍统率“宿卫将士”②。东晋初年温峤说：“及护军所统外军，可分遣二军出，并屯要处（屯田）”③。似护军仍统京城外宿卫军。大约至东晋后期，中领军专管京城内外宿卫军}中护军管中央驻守在地方要镇的军队，故称统外军。
两晋中央各级军事领导机构，都要按照君主的诏令行事，即便都督中外诸军事一职，从名义上也是代替皇帝行使军事权力。至东晋时，门阀轮替执政，权臣任都督中外诸军事，凭借其掌握中外军事大权，独掌朝政，皇帝反而变为傀儡。东晋权臣多次叛乱，都是在这种形势下出现的。
二、地方军事领导机构
两晋的地方军事领导机构，主要是都督及州郡军政系统。西晋建立后，沿袭曹魏旧制，在辖区内设置都督，及至太康元年（公元280年）灭吴后，又将都督制推行至江南。晋室南迁后，亦在辖区各地设置都督。魏晋时，有的都督已兼刺史，既统军又治民。太康三年(282年)，晋廷曾一度罢州郡兵，实行刺史不领兵，军民分治的政策。晋惠帝时又实行军民兼治的政策，以后都督兼刺史普遍化，
————————
①《晋书》卷四十《贾充传》。
②《晋书》卷六十四《淮南忠壮王允传》。
③《晋书》卷六十七《温峤传》。
形成了集军政大权于一身的刺史领兵制①。两晋时期，都督所督地区少者一州，多者数州，东晋时甚至有督十余州者。任都督者皆兼刺史，主管一方军政，为所督地区的最高军政长官。都督虽要听命于朝廷，但其军事实权很大。据《宋书·百官志》记载：“晋世则都督诸军为上，监诸军次之，督诸军为下。使持节得杀二千石以下；持节杀无官位人，若军事得与使持节同；假节唯军事得杀犯军令者。”由此可见，两晋持节都督府是极为重要的地方军事机构。
两晋另一地方军事领导机构是州郡行政系统。
两晋的州郡地方行政机构，设有州郡兵，归所属州郡长官统辖。因此，州郡行政系统也是一级地方军事领导机构。由于两晋州郡兵数目有限，作用也远逊于其他部分的军队，州郡行政系统的地位大大低于都督府。州郡系统中，具体掌管军队是州刺史和郡太守。州刺史与郡太守之下，还有协助其掌管军事的各种僚属。值得注意的是，一些州郡常被归入有关都督统辖之下，其州郡兵属该都督统率，这时该州郡行政系统的军事领导机构的作用便更加减弱了。
