东法兰克分裂出来以后，最早的几十年都是加诺林王朝的后人当皇帝，这些“皇帝”只是因为有点加诺林血统而被选立的。好几个是意大利北部小国的公侯，他们的“朝廷”实在帝国属土之外，既没有实权，也没有实力去争权。东法兰克境内的千百个大小公侯，各自为政。他们是顶自由的，因为没人管治，但又是顶危险的，因为没人保护。到了911年，“选帝侯”们推出一个非加诺林血统的皇帝，从此帝位的推选成为欧洲政治权力斗争的“战场”。三传之后（这三人是法兰克族人康拉德一世、撒克逊族人亨利一世和亨利的儿子奥托一世），奥托一世就建立了奥托王朝。他取得西法兰克（即法国，那时仍是由加诺林王朝统治）的同意，正式成立“东法兰克王国”（East Frankish Kingdom）。稍后，他又娶了意大利的寡妇皇后，把意大利列入版图。962年，由教皇加冕，正式开始了神圣罗马帝国（当初不称罗马，因为那时仍有拜占庭的东罗马。直到1027年东、西宗教大分裂才正式起名）。同时，也开始了帝国帝位合法性需要由教皇认许的政治传统。
虽是奥托王朝，但实质上仍是一个从前日耳曼各族组合的“联邦”（Confederation），没有什么清楚的“宪法”，要有雄才伟略的皇帝才能驾驭。理由很简单。各公侯怎会把辖地的权益自动献给皇帝？皇帝的实权只可行使于他自己的“辖国”里头，于是，“朝廷”也就只好设置在“皇帝的辖国内”，皇帝也只会利用皇帝的身份去与欧洲的权贵家族（尤其是帝国以外的权贵家族）结亲或结盟，以扩张自己的土地或权益。
但奥托王朝的皇帝们却想出了另一条妙计，他们利用教会的组织系统。在管理上，教会设立很多“主教区”（bishoprics）,每个区都有主管主教，主教区范围往往跟俗世公侯国的范围一样。奥托王朝的妙计就是在各个主教区内设立一个一个的“临时朝廷”，再把自己的亲信委任为主教，然后通过教会的赋税和征役权，直接从公侯们手中把地方的权益拿走。公侯们自然对皇帝不满，也对教会不满。他们原来就不愿意与教会分享地方的赋税，现在更视教会为敌人。同时，罗马教廷也不满意，因为这样就是皇帝篡夺了教会的赋税、征役权，更篡夺了教会任命主教的权力。有了这些利益争夺，帝国的政治局面就变得千头万绪，既是政与教之争，也是皇帝与公侯之争，后来又演变成国与国之争，甚至成了日后宗教改革的导火线。
11世纪，教皇格里高利七世发动改革，要求皇帝停止委任神职。当时，帝国下的公侯贵族要倒皇帝的台，就趁机另选一个皇帝。于是内战爆发，打了三年才平息。但奥托王朝的威望（包括帝国的“神圣”神话）却被破坏了。更关键的是，教会的俗世政治势力上升，扩大并加深了日后政教矛盾的局面。
奥托王朝于1138年被霍亨斯陶芬（Hohenstaufen）王朝替代，出了一个魄力非凡的“红胡子”腓特烈一世。他立了一套“宪法”，意图通过加强皇帝在各公侯国的权力来统一各公侯国，内容包括修路、课税、铸币、罚款、委任神职、委任和罢免公职等。他又建立了一套“刑法”，意图约束公侯间的私人战争，并借此增加其对帝国朝廷的向心力。这些都是欧洲“法治”的滥觞。
由于强势教会的掣肘，皇帝不能任命神职，于是腓特烈创出一套“借地”制度去绕过教会的约束。他把土地（这些土地包括皇帝自己直辖国内属于他自己或家族的土地，但也有通过没收或征伐拿来的，也有开创出来的，如商业城镇）“借”给（替代“封”给）对他效忠的子民。这样，他就没有触犯政权（包括封地）合法性需要教会允许的传统了。这些分得土地的“子民”都是有军功的，而且往往是公侯们的下“属”（封建制度下的“属”）。这是一举两得的妙招。有战事时，皇帝不用再依靠公侯们去动员，更重要的是，这制度间接削减了公侯们的势力。同时，这制度也创造了一个新阶级——效忠皇室的武士。日后帝国的大混乱，包括宗教改革后带出的大战，都与这批好战的武士有关。此外，腓特烈还建立了新的城镇去容纳日增的人口和日盛的商业（例如弗莱堡和慕尼黑），一方面增加了朝廷收入，一方面抵消了公侯势力。这些城镇在日后西方踏上现代化过程中成为左右欧洲大局的势力，也是欧洲政治混乱成因之一。
