在战争头几年中所出现的那种纷乱局面渐趋平息之后，伊斯兰教的战士们逐渐地认识到他们把战利品中所有的不动産都留给政府的这种作法是对他们自己不利的。由于政府根据它自己的意思去决定要付出的薪饷数目，因此就能够完全摆脱开那些找麻烦的人们；这样一来就使得政府能够无需依靠军队，而政府的一切毕竟还是由军队而来的。这种不满情绪有时表现在劫掠省政府财库上，特别是表现在拒绝将任何剩余解交首都这一点上。
不错，这种制度是以前由欧麦尔首先实行的，不过那时没有人敢于起来反对欧麦尔；而奥斯曼则缺乏他的前任的威信，特别是因爲人们把各省总督(一般都是他的同族)的过失也都归咎于他。甚至连他采取的一些十分合理的措施在各地也都受到人们的贬斥和批评。653年，，叙利亚和伊拉克两地的军队都参加了在亚美尼亚的一次战役，他们各自的《古兰经》里经文有不相符合之处因此就暴露出来。由于在这两个省份的居民之间的所存在的那种紧张局面在当时决不是一件小的事情，在怎样读经文才是正确问题上引起的争执终于引起了几次冲突。爲了使这种事情不再发生，哈里发决定确定《古兰经》的正式文本。早在穆罕默德生前的时候就有很多的啓示已经有人分别地记录下来。欧麦尔曾经命令给穆罕墨德作过书记的一个年轻的麦地那人宰德·撒比特把所有能够找刊的抄本都搜集到一起。但是这样搜集起来的东西只不过是一些认人的纪录，没有什麽权威。在欧麦尔死后，这些东西就传到他女儿哈福赛手中。奥斯曼只能利用这些初次搜集起来的材料。他责成宰德同三个受人尊敬的古莱氏人一起重新再行修订一次。奥斯曼任命的这几个人在完成这一任务时是谨慎从事的，这从他们后来到处都被人奉爲权威的情况上就可以看得出来。不过这个修订本在当时却给了库法人一个求之不得的材料，用来煽动人们反对哈里发的情绪。库法人里面有一个阿卜杜拉·马斯欧德，他是穆罕默德的一个多年的圣门弟子，自认是精通《古兰经》的专家之一。他起而大肆攻击说修订本是僞造的而且不全，说里面把伍麦叶族人列爲穆罕默德的敌人而加以诅咒的一些啓示都删掉了。
在麦地那，以阿里·泰勒哈和左拜尔爲首的反对哈里发的人们就利用了这种普遍的不满情绪。虽然他们自认有责任保卫真正的神权政体，反对脱离宗教的奥斯曼政权，但是他们却不敢公然出面首先向奥斯曼发难；他们让省里人去做恶人，何况，不管怎麽说，伊斯兰教的实权是操在后者手里。655年，这几个领袖人物暗示省里人说，麦地那现在有一个比在边疆地区里更爲方便的机会可以给他们利用来爲宗教积极进行斗争。风暴在库法爆发了。655年6月，在当地总督萨仪德朝觐归来的时候，有一千个人在一个对阿里个人很忠实的也门人马立克·阿什台尔指挥之下，阻拦萨仪德进城。奥斯曼认爲他还是能够消灾祛难的，他找了一个库法人所能够同意的人去代替萨仪德。
在埃及，奥斯曼并没有吓得不敢把征服那个地方的阿慕尔·阿绥免职，而让他自己的族弟阿比·萨尔继任，尽管穆罕默德曾经一度惩罚过萨尔。这时在埃及鼓动反对奥斯曼的不仅有阿慕尔，而且还有穆罕默德·阿比·胡海伊法。胡海伊法是艾卜·伯克尔的养子，也是阿里的一个热心支持者。埃及的舰队这时正在和在康士坦斯二世统治之下的拜占廷人进行战争，就在这次海上大战在里希亚海岸进行之际，不满分子以真正的圣战被忽视爲藉口就乘着一只船撤退回来。第二年，有五百个阿拉伯人从埃及出发到麦地那去发动符合上帝意愿的战争，攻打内部敌人。656年4月，仙们兵临城外。大部分的麦地那人都附和了他们。奥斯曼当时身爲世界上最强大的帝国的统治者，在他住的地方却没有任何武器；因此他只得和这五百名反叛者进行谈判。他答应消除他们的不满的原因，终于使他们退了兵。但是接着伍麦叶族人又出头了，他们劝使哈里发在下一次星期五讲道的时候说，埃及人之所以撤退，是因爲他们认识到他们自己的错误。麦地那人听到这话非常愤怒，忍不住大骂哈里发，并且拿石头打他。哈里发被打得不省人事，被人背出寺外。他此后再也没有到这个清真寺里来。
麦地那人集合在他的房子前面，丝毫不肯离开那里。埃及人也回来了，他们说截获了奥斯曼给总督阿比·萨尔的一封信，要他等埃及人回去的时候把他们的几个领头的人杀掉。信摆在哈里发的眼前，但是哈里发却矢口否认，说他对于这封信毫不知情。于是他们就提出，如果这样的事竟会背着他作出来，他就应当退位。哈咀发威严地拒绝了这种放肆的建议。因此他就在家里被包围起来：保卫他的只有他的几个亲戚，。还有一些奴隶和受护民。这次暴动的幕后煽动者阿里·泰勒哈和左拜尔这时却销声匿迹。机伶的阿绮莎甚至还藉口到麦加朝觐而离城他往，以免后来要她出头。
最后的战斗是由一个保卫奥斯曼的人开始的，他扔出一块石头，打死了一个埃及人。当要求把这个人交出来而遭到拒绝的时候，反叛的人们就从附近的空地猛攻奥斯曼的房子，奥斯曼这时正在那里安静地祈祷，并没有参加战斗；他们杀死了哈里发，把他的住处劫掠一空。这件事情发生在星期五，656年的6月17日。奥斯曼的血流在他刚刚念过的那本《古兰经》上。这本《古兰经》可能足被当作一件圣物而藏起来了，不过后来有些图书馆都竞相以藏仃真本而自诩。奥斯曼的妻子(凯勒卜族)纳伊莱自己也负了伤，地和几个朋友一道在夜深人静的时候把哈里发的尸首埋葬起来。
纳伊莱的几只切断的手指被送到奥斯曼的族弟叙利亚总督穆阿威叶那里，穆阿威叶把手指陈列在讲坛上以鼓动信徒们替哈里发报仇。穆阿威叶原先曾经派遣军队出去援救，但是在听到奥斯曼被杀的消息之后，军队就匆忙地由中途折回来了。
早在包围奥斯曼的期间，阿里这个既是穆罕默德的女婿而现在无疑又是头号穆斯林的人物就已经在领导祈祷了，他并且还指派一个人领导到麦加去朝觐。在奥斯曼遇害的当天，阿里就在清真寺里接受了群衆的拥戴宣誓而就任哈里发。不过泰勒哈和左拜尔这两个一直好像都在替他服务的人这时却和他决裂了，指责他谋杀奥斯曼。他们两人都跟着阿绮莎到麦加去。这位“信徒之母”这时对阿里仍然怀有旧恨；在她听到阿里已经接受了拥戴宣誓之后，她就号召信徒们替遇害者复仇。回应她的不仅有伍麦叶族人，而且还有另外一些和她一样憎恶阿里的人们。他们听从了阿米尔的意见，决定向巴士拉进发；阿米尔长期以来就在巴士拉有着很多的联系。在奥斯曼死后四个月以后，这些反叛者们就在通往伊拉克的大道上的一个营房里集合出发了。
他们一到巴士拉之后，就造起反来，把那位要等候阿里的命令而不愿加入他们的总督给除掉了。在占领巴士拉城之后，泰勒哈和左拜尔两人之间马—正又发生厂争执，都要求领导公衆祈祷。阿绮莎暂时解决了这个问题，指定她的外甥亦即左拜尔的儿子阿卜杜拉来执行这一职务。
阿里在麦地那并无军队，他也刁；能在那里呆下去。656年10月，他带领着大约一百来人出发往伊拉克去，希望在库法能够找到支援他的人。库法是伊拉克的第二个军事殖民地，那里的居民从一开始对巴士拉就有一定程度的反感。阿里预先打发他的儿子哈桑到那里去，事实上哈桑到了那里就替他父亲把库法城的战士们争取过来。阿里这时还在杜一卡尔的军营里，他领着集合到他那 rE的一万二千名库法人从杜一卡尔出发去攻打巴士拉。在和泰勒”合和左拜尔谈判决裂之后，战事就发生了。泰勒哈受伤殒命，左拜尔由于受到良心谴责，退出战场，在逃走途中被杀。不过当阿绮莎按照阿拉伯古代的习俗骑着骆驼出来鼓励战士们的时候，人们看到骆驼就停止攻打。直到骆驼被杀之后，阿里才在656年”月4日获得胜利。这次战役就称爲“骆驼之役”。阿绮莎表示愿意支援胜利者，但是被拒绝了。她在678年7月13日死去，时年六十四岁。全伊拉克各地都承认阿里爲哈里发，阿里就在伊拉克住下去，定都库法。
这样一来，领导作用就从阿拉伯半岛，特别是从麦地那，转移到各省，其实实权长时期以来就已经集中到那里了。留在麦地那的一些穆罕默德的朋友们都失掉了一切的政治影响；他们只是在那里继续致力于研究有关穆罕默德的言行传说。穆罕默德的言行是个人和社会生活所应依据的楷模，他们都根据当时的环境热诚地加以讨论，定爲处世爲人的准则。不过即使宗教上的功课也不能不受新环境的影响，这从每天祈祷的次数上就可以看得出来。麦地那人关于哈里发职权性质的那些政治方面的理论从来也不曾完全实现过。 ．
至于社会生活方面，在具体事情上当时都企图使当时实行的习惯法(这种习惯法可能已经受到各被征服省份里罗马法规的影响)适合于伊斯兰教的原则；一件事情之是否许可去作取决于伦理上的考虑者多，取决于法律上的考虑者少。穆罕默德的言行用口头传达的情况保持了一个长的时期，而任何记叙下来的东西都是保留在私人的手里。过了一个世纪之后，这种传说和法典才具有成文形式。这座曾经一度统治着近东的城市这时已成爲虔诚的人们的学术中心；而比较关心世俗事物的贵族阶级，鉴于自己爲省里人所排挤，不能再控制国家，就沈溺于轻浮的生活享受之中。在麦加，有一个富有的市民私人修建了第一所游艺和阅览室，里面备有象棋及其它棋艺用具还有书籍等供客人消遣。在麦地那，诗人间瓦土专写一种爱情诗，波斯人优努斯则吸取了外国曲调，使音乐成爲一种更加优美的官能享受。不过麦地那人的娱乐消遣并不都是那麽高尚风雅的。这个先知的城市不久就以拥有不仅歌喉最好而且最娇柔的歌女而驰名于世了。
爲奥斯曼之死复仇这个责任就落到伍麦叶家族首领，叙利亚总督穆阿威叶·阿比·素福彦的身上。但是穆阿威叶要完成这一任务，就必须先使自己省份的安全无虞，因爲叙利亚当时还受着拜占廷人的威胁。因此之故，他就特别需要保有埃及。他俘虏了阿里派往埃及的总督，但是还没等到能够征服埃及本土的时候，他就不得不和阿里一决雌雄了，因爲身爲哈里发的阿里必须迫使全帝国各处都臣服拥戴。657年春天，阿里进兵西北，穆阿威叶在叙利亚边境的西芬迎战。西芬在幼发拉底河东岸，介于拉卡和巴里斯之间，在那条狭窄的沼泽地带上，到处都是池塘，密布着柳树和白杨，树丛之中只有一条石子路通往幼发拉底河。
谈判至少进行了有一个月之久，但是毫无结果，因爲阿里不能够接受穆阿威叶的要求，把杀害奥斯曼的凶手们交出来。到5月间他们就厮杀起来，阿里夺得了一条可以让军队开往幼发拉底河的通道。到6月19日，按照传统禁止作战的月份阴历1月开始了，双方也就约定在禁月里停战。不过在这个月里双方谈判也没有成功。等禁月一过，战争又打起来了，有一个时期，战局有进有退，胜负难决；双方的军队都缺乏斗志，因爲在很大程度上都是同部族的人相互对阵。虽然同军容不整的伊拉克人比较起来，叙利亚人牢队训练得较好，但是伊拉克人在热心支援阿里的马立克·阿什台尔指挥之下却把敌手们迫得走投无路，以致穆阿威叶都已经在盘算要逃走了。双方都有虔诚的念经人一直在念经祈求和平。在这个紧要关头，据说那个曾经征服埃及并且作过埃及总督的狡猾的阿慕尔·阿绥爲穆阿威叶献策，要他派遣新的军队出阵，把《古兰经》系在矛头上表示他们吁求上帝的意志而不是通过兵刃来决定究竟谁应作统治者。尽管这件事情可能是虚构的，不过无论如何，伊拉克人终于迫使那个认爲胜利已经在握的阿里不得不停战，重新和穆阿威叶进行谈判。双方取得协定选出两个仲裁者。阿慕尔·阿绥代表穆阿威叶，艾卜·穆萨·艾什耳里代表阿里来替双方根据《古兰经》作出决定。他们要在阴历9月在叙利亚和伊拉克之间的一个地方会见。 ：
仲裁会议在古代埃达姆的马昂和皮特拉之间的阿第鲁举行；两位仲裁者都带着四百人护送前往，还有一些穆罕默德的着名圣门弟子也参加谈判作爲见证人。由于事先没有定出明确的目标，因此双方各有打算，谈不到一起。伊拉克人认爲他们所等待的只不过是正式确认阿里的哈里发地位而已，而穆阿威叶所要求的则是要审查一下，阿里因杀害奥斯曼有罪，是否配执政。不过他的代表却把这两人都当作是哈里发位置的竞争者，他提出了一连串的意见，说服了他的对手宣布两个人都不合格。阿里不能够接受这样的决定，他只得违反自己原来的誓言。但是这样一来他就作错了，此后穆阿威叶的军队就对穆阿威叶以哈里发相称了。
阿里在伊拉克的地位很快地就每况愈下。甚至就在从西芬回来的路上，他的军队里面就有一部分人——多半都是台米木部族的人一已经猛烈地责备他不应该甘愿服从一个由凡人组成的仲战会议的决定。他们认爲这种决定应该只由真主来作，因此他们就脱离了阿里，撤到离库法不远的一个哈鲁拉村庄里，并且推选了他们自己的人阿卜杜拉·拉西比就任哈里发。等仲裁会议的裁决传刊库法的时候，又有很多原来支援阿里的人都当作亡命者(哈瓦利吉派)而离开库法参加到哈鲁拉那一伙人那里去。他们的首领在通往波斯的路上搭起营房，那里距离将来的巴格达城址不远，靠近一条从一个桥头堡那里流入底格里斯河的纳拉万运河。阿里就在那个地方在658年7月17日向这些反叛者进攻，把他们打得大败，但是却未能把他们全部歼灭。
与此同时，穆阿威叶又动手去征服埃及，他原先征服埃及的计划是因爲阿里的进攻而改变的。在穆阿威叶进军尼罗河流域的时候，阿里新任命的总督率兵迎击，但是在658年7月败下阵来。于是穆阿威叶就把进一步征服埃及的任务交给阿慕尔·阿绥去执行，他自己则在同年以缴纳年贡爲条件和康士坦斯二世皇帝缔结休战协定，从而使自己不致再受到拜占庭人的攻击。接着他就在 660年5月底在耶路撒冷正式接受拥戴宣誓，就任哈里发之位。由于穆阿威叶的军队经常地在攻打伊拉克，阿里就准备对叙利亚发。动战役。但是他还没有来得及兴兵就在661年1月24日在库法的清真寺里遭人暗杀。这是一件爲了报复纳拉万之仇的行动，这一复仇行动址一个名字叫作卡塔姆的女人要她的情人穆勒介木履行之后才肯嫁给他的一个代价。
