在阿里被刺之前，穆阿威叶就已经出发取道美索不达米亚前往进犯伊拉克了。阿里的位置最初由他那个懦弱无能的儿子哈桑继任，但是他却不敢率领士兵迎击。他同意和穆阿威叶进行谈判，并且放弃了他的继任要求，交换条件是把库法国库里的五百万迪汗留给他。原来阿卜杜拉·阿拔斯——即后来执掌政权的阿拔斯王朝的祖先——早已拐带巴土拉的公款投往穆阿威叶去了。
穆阿威叶把统治桀骜不驯的伊拉克人这一艰巨的任务交由他在库法和巴士拉的总督们去担任。在库法他任命了穆基赖·舒耳自爲总督。穆基赖，舒耳白是一个肆无忌惮的野心家，他在年轻的时候由于一件普通的杀人案而不得不离开他的故乡塔伊夫，到 629年的时候他已经到麦地那来投奔穆罕默德。他当时曾经奉穆罕默德之命把自己城市里的女神偶像捣毁；由于虔诚，他在伊斯兰牧的新贵族阶级中取得了一个地位。在和萨珊帝国的几次战争中，他因爲通晓波斯文而办理了一些对外交涉。欧麦尔论功行赏，就让他作巴林总督，后来又把他调任到巴土拉这个重要得多的职位上。在638年，他因爲奸情而被免职，但是由于内战爆发后他表现了一种谨慎的保留态度，因而又爬起来了。在作库法总督时期，他采取了一种狡猾的政策，嗾使哈列哲派和支援阿里的人们(十叶派）互相反目，因而得以使他治下的人民不公开地反抗叙利亚人，尽管他们毫不讳言他们对于叙利亚人的憎恶。
巴士拉总督也是塔伊夫出生的人，但是出身微贱。只知道他的母亲是一个名叫苏迈亚的女奴，因此他就名叫齐雅德·“伊本·阿比希”(意即“他爸爸的儿子齐雅德”)。齐雅德的个人经历最初是在巴土拉军队里当文书，阿里曾经派他到波斯去，他在那个省份里并未使用暴力，只是凭个人行爲有方就取得了居民们的拥护，一直到662年他对穆阿威叶还保持着独立。接着他的同乡穆基赖就代表他同这个新政权去谈判和约。穆阿威叶请齐雅德到大马土革去，把他认作自己父亲艾卜·素福彦的私生子，这样就和这个极其有用的人物拉上了关系，使其爲穆阿威叶的家族服务。然后穆阿威叶就派他到巴土拉去作总督，他在巴士拉下车伊始就在教坛上即席演说，这篇演说在阿拉伯文学里是很有名的。他在这篇演说里宣布采取最严厉的措施以制止他治下的百姓中间所一直普遍存在的那种无法无天的风气。他的顽强的魄力把这个政权原先因爲部族纠纷而完全破坏了的威信重新树立起来。在他这个省份里，甚至在一直深入到沙漠中心的地方，不久就出现了一种前所未有的太平气象。670年穆墓赖死去，他又把穆基赖的省份也接收过来。
阿里的部下由于他的前任哈里发的纵容，因此纪律松弛，不久就发生了一次武装暴动，这就给齐雅德一个机会和他们最后彻底清算一下。齐雅德没费多少力量就把这次叛乱镇压下去；然后，他改变了原先按部族编队的办法，把战斗人员拆散重编成四队，每队都安置了一个当时政权认爲可靠的人作爲领导。他把受影响最深的库法人连同他们的家属，以及五万个贝都印人都移殖到波斯东部的呼罗珊省。他在巴土拉几乎完全自主地统辖着帝国的整个东半部，那一部分就是从巴土拉出发征服的土地，而穆阿威叶的兴趣则在于西部。齐雅德完全没有辜负穆阿威叶所寄予他的无限信任。
由于穆网威叶的缘故，叙利亚变成了政权的中心。在伊拉克，阿拉伯人主要是由于征服战争才从沙漠迁移到那里去的；而在叙利亚，阿拉伯人则大部分都已经在那里居住了几个世纪了，他们与基督教会以及罗马帝国的长期接触已经使他们习惯于遵守国家秩序。坐镇在大马士革实施统治的穆阿威叶被他们看作是他们从前加萨尼王族的合法承继者。穆阿威叶的妻子是叙利亚最有势力的南阿拉伯凯勒卜部族的一个贵族妇女。这保证他们的儿子叶齐德承继哈里发的位置能够得到族人们的支援。穆阿威叶用大量的馈赠把过去反对他的阿里的家族和哈希姆族都争取过来。他小心翼翼地对待他的那些伍麦叶族人，以防他们成爲他自己或他儿子的后患。他总是能够利用当代诗人在舆论方面仍然发生的重大影响来保护他那个王朝的利益。阿拉伯人和亚拉姆血统的基督教居民本来就是旧相识，他们友好相处，关系融洽。阿拉伯人在叙利亚并不像在伊拉克那样是住在新建立的殖民地里，而是住在大城市里，和基督教徒们住在一起；他们在各地甚至和基督教徒们在同一个屋子里举行宗教仪式。信仰基督教的塞尔仲·曼苏尔还在穆阿成叶的宫廷里充当一个有影响的财政顾问的角色。基督教徒们对卜穆阿威叶和他的家族的这种容忍的精神则报以忠心的拥戴，这种情况在基督教的传说中我们甚至在西班芽的历史上还可以看刊。穆阿威叶对于阿拉伯人的统治并不像东方专制君王那样，而是像古代部族的赛义德一样。当星期五在清真寺里举行宗教仪式的时候，穆阿威叶把讲坛当作行政长官席来加以利用，时常同贵族的领袖们商讨政治措施。通常他在宫廷里也经常向贵族的领袖们请教。他也时常接见来自各省的代表团，以便听取他们的疾苦，调停各部族之间的纠纷。所有这些作法都表现了他性格上的主要特点：温厚沈着，克己自制；这种作风被认爲是赛义德的一种主要的美德，因爲在阿拉伯人，中间不是赛义德就很少有这种美德。和他那个伟大的前辈欧麦尔一样，他又采用了希腊化时代的罗马帝国行政措施，这些措施是经过多少个世纪之久的考验的。这样一来，他就在欧麦尔所建立起来而后来又爲内战所破坏的基础上把伊斯兰教国家又重新建立起来。在财政事务方面，他把各省一向极其勉强缴纳给小央国库的税收重新规定下来，并且设法保证这些税收能够按时征收；同时他也免除了各省一部分过去统治者们所准许他们的属下领取的爲数庞人的午金。在汉志这个自从内乱爆发以来就遭到荒芜的地方，他实行种种庞大的计划，以改进耕作方法从而促进农业的发展。
穆阿威叶一向把对拜占庭人作战看作是自己的一项最重要的任务。早在欧麦尔作哈里发，他自己还在作总督的时候，他就已经开始这一战争丁。后来在奥斯曼统治时期，他看到腓尼基的沿海城市仍爲拜占庭人所据有，觉得只有再度进军决战一次才有可能从拜古庭手中把这些城市夺取过来。爲了确保能够夺取这些城市，穆阿威叶就必须在海上也同敌手们交战。欧麦尔当初一直不肯批准他这样作，直到奥斯曼统治时期，穆阿威叶才取得许可到阿拉伯人从来不曾有过经验的战场上作战。不过很快地阿拉伯人就习惯于海上战争了。649年夏天，穆阿威叶向塞浦路斯进攻，六年以后，他就在装备一支舰队进攻君土坦丁堡了。希拉克略之孙康士坦斯二世皇帝到里希亚海岸应战，但是被打得一败涂地。尽管取得了这次胜利，阿拉伯人却仍然不能够达到他们的目的，因爲同时从陆路进军的穆阿威叶这时未能越过卡巴道西亚的恺撒里亚。穆阿威叶当时不得不和拜占庭谈判媾和，以便应付同阿里的战斗。但是一俟他统一了帝国之后，他又乘着每年夏季往小亚细亚侵掠的时机重新进行这一战役。他的军队曾经两度打到拜占庭帝国都城门前，但是拜占庭帝国由于文化水平高，又把这些未开化的人的进攻击退。667年亚美尼亚的一个叛变的将军萨包里乌斯约请阿拉伯人进军亚美尼亚，但是等阿拉伯人到达梅里替尼的时候，康土坦斯二世皇帝已经把叛变镇压下去。尽管如此，阿拉伯人还是向前进一直远达卡尔西顿。这时穆阿威叶把他那个一向只知逍遥自在过活的儿子叶齐德派到军队里去。阿拉伯人在卡尔西顿坚持过了冬天之后，第二年春天他们又向前推进一直远达拜占庭本土。不过等到夏季到来之后，他们只好马上放弃围攻又回到叙利亚去。 674年，穆阿威叶再度大举进攻，企图深入这个基督教国家的中心。他派遣了一支强大的舰队，这支舰队事实上成功地在普罗旁蒂斯南岸的塞齐克斯建立起据点。穆阿威叶从塞齐克斯向拜占庭都城进行骚扰一连有七年之久，不过面对着强有力的防御工事和希腊火却总也没有什麽有效的办法而已。最后穆阿威叶放弃了这个没有成功之望的战争，和拜占庭缔结了和约。
阿拉伯人在第二个战场上，在和非洲的基督教徒的战争中取得了持久的胜利。647年以后不久，乌斯曼派驻埃及的总督伊本·阿比·萨尔就已经征服了的黎波里，不过当时萨尔却只满足于让的黎波里缴纳贡金而已。到667年穆阿威叶的总督伊本·胡德杰重新发动战争向西部的基督教徒进攻，·在他第一次出兵窜扰的时候他就已经远达西西里。但是真正在北非建立起阿拉伯统治的人却是欧格白·伊本·纳菲耳。欧格白是埃及的征服者阿慕尔的侄子。他本来已经从埃及出发征服了巴尔喀，并且在670年联合了柏柏尔人把在北非的基督教徒统治完全摧毁。但是他在盖赖旺城建立起一个军事殖民地之后却又被召回。后来到682年，穆阿威叶的继位人又任命他爲总督，于是他再一次向西发动战役，这次显然使他一直到达了海边。欧格白曾经进入柏柏尔人的领土远达亚特拉斯山脉中部，但是柏柏尔人的一些部族却并未因此而被彻底征服。被欧格白作爲俘虏而随军携带的柏柏尔人领袖库塞拉后来逃走了，他联合了当时仍然留驻在他们那里的拜占庭军队，组织起来反抗阿拉伯人。欧格白当时未加注意地也把军队分成两支，他自己率领一支小的队伍沿着通往奥雷斯山的路上进军。683年，在撒哈拉边缘的塔胡达地方遭受柏柏尔人的袭击，他和部下一起全部战死。在那里爲他修建的墓寺就以他的名字命名，称爲西迪欧格白，这个寺在比斯克拉以南，是非洲穆斯林建筑物中最古的，并且还是相当原始的一所纪念物。
穆阿威叶死于680年4月18口。继位的是他的儿子叶齐德。当穆阿威叶在世的时候，就已经给他举行过拥戴宣誓了。伊斯兰教贵族的首脑们——阿里的次子侯赛因·欧麦尔的儿子阿卜杜拉和左拜尔的儿子阿卜杜拉——拒绝举行这次拥戴宣誓，等穆阿威叶死后再次要求他们宣誓时，只有欧麦尔的儿子遵照办理，另外两个人则都逃到麦加去，以躲开负责此事的麦地那总督的势力范围。库法人极力要求侯赛因到他们那里去，在他们那里就任哈里发。他接受了这一诱人的请求，不过后来在伊拉克却不曾得到他所予期的支援。他的族弟穆斯林·阿基尔原来打算到那里事先替他去进行活动，但是却爲叶齐德的总督欧贝杜拉·齐雅德所俘掳而处死。侯赛因在途中被欧贝杜拉·齐雅德的前哨巡逻队所截获，由于他不肯返回，巡逻队就把他一直押送到克伯拉。这个地方在幼发拉底河以西，在距离巴格达南面偏西约六十二英里的沙漠边缘。他们把他禁闭在卡尔巴拉，希望干渴会迫使他投降。伊断兰纪元61年1月10日，即西元680年10月10日，叶齐德军队．的司令官欧麦尔给了他一个最后通牒；欧麦尔的父亲是穆罕默德的一个圣门弟子，曾任军事领袖的赛耳德·伊本，艾比·瓦嘎斯。侯赛因从库法支持者们那里已经指望不到什麽援助，那些人由于穆斯林·阿基尔被处死而张皇失措。虽然如此，侯赛因还是拒不投降：作爲穆罕默德的外孙，他自恃别人奈何不得他。刚一交战后不久侯赛因就战死了。他的首级被送到哈里发那里去。哈里发对于这种未曾料到的结果深以爲憾，他吩咐把那些逃脱这次杀戮的阿里派都带回麦地那去，在那里予以宽厚的照顾。侯赛因这次殉难虽然并无任何政治上的影响，但是却促进了((十叶派”在宗教上的发展。“十叶派刀就是阿里派，后来成爲一切反对阿拉伯意向的中心。直到今天，葬在卡尔巴拉的侯赛因墓仍然是所有十叶派教徒，特别是波斯人，要去参拜的最神圣的目的地：这些人们的最热切的心愿一直就是能够在侯赛因的旁边得到一个最后的安息之地。
伍麦叶王朝碰到的一个危险得多的敌手是阿卜杜拉·左拜尔。左拜尔以圣地麦加爲避难所进行反抗哈里发的活动。他从那小灿动麦地那人，而麦地那人是有一切理由来非难这个使他们城也失掉昔日荣誉的政权的。叶齐德在683年又作了一次努力想把他们争取过来，但是徒劳无功。在这以后不久，大约有一千个定居在麦地那的伍麦叶族人就遭到了攻击，他们不得不逃到他们的族长麦尔旺·哈克木·阿斯那里去避难。这个族长在穆阿威叶在位时期曾经一度作过汉志总督。哈里发派穆斯林·欧克白率领一支一万二千名叙利亚人组成的军队前往援助他们，穆斯林在爲哈里发的父亲服务期间就已经显示出他的勇气了。被围困在麦地那的伍麦叶族人这时已经投降，被准许自由撤退。他们在去往叙利亚的路上和穆斯林会师。683年8月，穆斯林在城北的哈拉熔岩地带安营扎寨。在让他们稍事休息之后，反叛者们就向他进攻过来，战斗的结果是古莱氏和辅士贵族的精华遭到歼灭性的失败。次日，穆斯林命令将尚未丧命的几个魁首处死，然后代表叶齐德接受麦地那人的归顺。
穆斯林从麦地那继续向麦加前进，但是他死于途中。侯赛因．努马伊尔继续率领着这支军队。围攻了两个月之后，侯赛因听到哈里发叶齐德逝世的消息，因此他就同阿卜杜拉·左拜尔进行谈判，表示愿意拥戴他作哈里发，条件是阿卜杜拉不仅对于前此的战争不加报复，而且还要到叙利亚去以使叙利亚继续保持爲政权的中心。阿卜杜拉拒不同意第二项条件。尽管如此侯赛因还是收兵解围，返回叙利亚去了。
叶齐德是在683年11月11日死的。的确，他在作哈里发期间曾经耽溺于音乐、美酒、娱乐之中，不堪留意国家大事。他也终止了对拜占廷人的战争，他在未作哈里发之前参加这个战争并不是出于心甘情愿的。基督教传说里称赞他特别会寻欢作乐。但是在他短短的统治期间，他也在财政管理方面着手进行过改革，而且改革得也不是毫无手腕。叶齐德还注意到大马士革古达绿洲的水利灌溉问题。他的儿子穆阿威叶二世当时还很年轻，在他死后马上就在大马士革得到承认，不过在位时期很短就死去了。
甚至在穆阿威叶二世活着的时候，叙利亚的阿拉伯部族之间就已经开始了战争，而这种战争此后在伍麦叶政权之下就没有真正平息过。北阿拉伯的一个部族盖斯人的一些分支如盖特方。穆达尔等等都住在叙利亚北部、美索不达米亚和伊拉克一带，他们对于从穆阿威叶一世起就开始偏祖南阿拉伯的凯勒卜部族的作法心怀不满；凯勒卜是住在巴尔米拉和古代莫阿比之间的库达阿人的主要部族。阿卜杜拉·左拜尔在伊拉克取得承认之后，盖斯人就在左法尔·哈里斯的领导之下兴兵作乱，把金那斯林的一个凯勒卜人总督驱逐出去。在穆阿威叶死后，赫姆斯的总督也承认左拜尔作哈里发。最后，在大马土革当权的达哈克·盖斯也倒向左拜尔。伍麦叶族的族长麦尔旺在叶齐德死后就已经在大马士革定居下来，他最初表示有意放弃自己的要求以支援住在麦加的哈里发，不过后来又听从别人的劝说在684年6月22日在雅比雅接受了拥戴宣誓。叶齐德的舅父哈桑，白海达勒也到雅比雅去支援他。哈桑身任外约旦总督，是拥护伍麦叶家族的人中的一个真正有点实权的人物。麦尔旺和哈桑一起率兵前往大马土革；盖斯人在大马上革北面的马兹拉希特平原上迎击他们，结果战败。684年8月，麦尔旺在事先夺取了国库之后就在大马士革也接受了拥戴宣誓，尽管在马兹拉希特一战获胜恢复了伍麦叶王朝的统治，但是与此同时血族复仇之事也随而并起，因之盖斯和凯勒卜人之间的怨仇真正爆发还只是后来的事，其结果是破坏了伍麦叶政权的基础。
麦尔旺的在位期间也未得久长，而且其间还充满了连续不断的争斗。他乘埃及不备突然进军占领了埃及。在他往埃及进军时，他的巴勒斯坦总督们替他掩护后方，击退了阿卜杜拉·左拜尔的兄弟穆斯阿卜发动一次进攻。最初麦尔旺不能不承认叶齐德一世的一个儿子爲继位人；但是在经过一系列的拖延不决的谈判之后，他终于说服了叶齐德一世的这个儿子，让位给麦尔旺的儿子阿卜杜·马立克和阿卜杜·阿齐兹。阿齐兹是弟弟，麦尔旺曾经任命他爲埃及总督。
哈里发麦尔旺在年轻的时候曾经在保卫奥斯曼之战和骆驼之战中身受重伤，在瘟疫从伊拉克再次传人叙利亚的时候他已年近七十高龄；就像穆阿威叶二世先于他而死于瘟疫一样，这次传染病也使他死于685年5月7日。关于他的妻子(原来是叶齐德的寡妻)曾经因爲她的儿子不能继位而把麦尔旺勒死以替子报仇的说法纯粹是一种无稽之谈。
麦尔旺的儿子阿卜杜·马立克这时得开始进行一场顽强的斗争以争取继承权。当时在叙利亚公开反抗他的有幼发拉底河流域盖斯人的领袖左法尔，其他各省则都支援左拜尔。马立克爲了保卫叙利亚北部不受拜占廷人侵犯又化费了两年的时间，直到两年之后，他才能够抽身转向伊拉克；当时在伊拉克作总督的是阿卜杜拉·左拜尔的兄弟穆斯阿卜。穆斯阿卜本来有许多困难要克服。原来自从侯赛因在克伯拉战败之后，阿里派因爲缺乏有才能的领袖人物，一直潜伏不动；但是这时却有一位能干的领袖出现了，这个人就是赛基夫人穆赫塔尔。穆赫塔尔是一个孤儿，由一个曾经给阿里作过马丹总督的叔父抚养成人。穆赫塔尔本人曾经参加过穆斯林·阿基尔的叛乱，当他从牢狱中释放出来以后，他就到麦加去投奔了左拜尔。三年之后，他又在伊拉克出现了，显然是作爲阿里的一个小儿子的使者而去的。阿里的这个儿子跟他的母亲取名称爲穆罕默德·伊本·哈纳菲亚。由于这个儿子并不是法蒂玛小的，没有先知穆罕默德本人的血统，因此真正说来也就并无承继之权。于是穆赫塔尔很快地就选择了另外的一条道路：他表面上说是得到了天使迦伯利的啓示而传起道来，他模仿着《古兰经》的形式用一种晦涩的押韵的散文宣传有一个麦海迪马上就要出现。他说这个麦海迪到宇宙末日会消除大地上的一切不公平的现象，使世界上到处都充满正义。他的传道吸引了皈依伊斯兰教并受其保护的亚拉姆人和伊朗人，这些人是被阿拉伯人当作二等公民看待的。穆赫塔尔把统率他们的军权授予易卜拉欣·马立克·艾什台尔。艾什台尔是阿里手下的一个名将之子，他征服了库法的阿拉伯人。穆赫塔尔从库法取得了整个伊拉克及东部各省的支援，这些地方被征服的人民热烈地投入他的旗帜之下。但是他却不曾把库法的阿拉伯人争取过来，库法的阿拉伯人乘艾什台尔外出率兵进攻阿卜杜·马立克的机会就向穆赫塔尔进攻。穆赫塔尔这时危险万分，幸得军队听到消息赶回才把他营救出来。因此穆赫塔尔就把所有反对他的人们都予以残酷的惩罚，说他们在侯赛因殉难事件中曾经是同谋犯。两天之后，艾什台尔在哈吉尔把欧贝杜拉·齐雅德率领的叙利亚军队战败，齐雅德就是那个因克伯拉的杀戮而觉得内咎的领袖，他在哈吉尔阵亡。这是穆赫塔尔的一次最人的胜利。穆赫塔尔爲庆祝这一胜利举行了一次奇异的仪式，把一个空宝座当作神位而加以膜拜。但是继这次胜利之后不久他就被推翻了。在同哈瓦利吉派进行战争期间一直坚定地留在巴士拉按兵不动的穆萨布这时率兵向他进攻。经过两场血战之后，穆斯阿卜把穆赫塔尔围困在库法要塞里。穆赫塔尔困守了四个月之后在687年4月4日一次出击战中战死。虽然穆斯阿卜以无比残酷的手段消灭了穆赫塔尔的支持者，但是穆赫塔尔的教义却在十叶派的来世论中留传下来。
穆斯阿卜这时在伊拉克还能够再镇压下几次小规模的伍麦叶王朝运动。但是在691年阿卜杜·马立克亲自率领着一支军队到达伊拉克。这时穆斯阿卜的精锐部队正在和哈瓦利吉派作战受到牵制。穆斯阿卜进兵到巴格达以北底格里斯河西岸亚美尼亚教长修道院那里去迎击这位哈里发。可是他的军官们都表现得极不可靠，他们甚至竟和哈里发进行起谈判来。不过哈里发却对他们的变节行爲不认可，他甚至还对穆斯阿卜表示如果他肯投降过来就可以让他作伊拉克总督。但是穆斯阿卜是非常忠实于他的兄弟的，在10月中旬，他在战场上阵亡。
这时阿卜杜·马立克所需要对付的只有阿卜杜拉·左拜尔一个人了。左拜尔住在麦加，从那里他维持着整个汉志的统治。马立克派哈查只·伊本·优素福去攻打他。哈查只是塔伊夫的一个萨基弗人，他在攻打穆斯阿卜战役巾得到了马立克的赏识。哈查只利用他的出生地作爲作战根据地，从塔伊夫向麦加进攻。他对于这个城市的神圣不可侵犯地位完全没有放在眼里，从艾卜库贝斯山上就开始向麦加轰击起来。但是另外那个对立的哈里发在卡巴天房又坚守了七个月，到692年10月一次出击时连他自己的几个儿子都背弃了他，他也就战死了。这样一来，这个帝国又重新恢复了统一。论功行赏，这位得胜的将军除了也门和叶麻麦之外又得到了汉志总督的职位。当他用了两年的时间把那里的秩序恢复了之后，在694年12月哈里发又把他调任到这个帝国里的最重要的职位上。去接替哈里发死去的兄弟比什尔而爲伊拉克总督。他在库法就职时在讲坛上发表了一篇演说，这篇演说已经和他的前任齐雅德的演说同样地有名了。
阿卜杜·马立克在解决了他的竞争者以后，马上就恢复了停息了约有十五年之久的对拜占庭的战争，在这以前，马立克不得不以纳贡方式换取和平。这次战争的恢复据说是和阿卜杜·马立克所采取的币制改革有关。根据稗史上的传说，一直到那个时候，阿拉伯帝国里的通用货币只有拜占庭的货币，内地造的钱币上面也都有希腊文字。至于拜占庭人所用的纸则是从埃及那里弄来的。埃及的国家工厂爲拜占庭造的纸上面都有基督教的纹章，还有带十字架的透明花纹。据说哈里发把这些都用表明伊斯兰教信仰的纹章来加以代替。因此拜占庭人就威胁要准备一种金第纳尔，上面带有侮辱先知的字样。而当时阿拉伯人除了从拜占庭人那里才能得到金第纳尔之外，在别的地方是弄不到金第纳尔的。因而在 693年哈里发就决定在大马士革自己铸造货币，在第二年哈查只在库法也仿法他的榜样。于是，在正式记载账目的时候就采用了阿拉伯文，虽然和从前一样官员们还完全是些非阿拉伯人；而在此以前在叙利亚一直是用希腊文，在伊拉克则用波斯文记账的。阿卜杜·马立克又把一向给予基督教徒臣民的自由大大地加以限制，籍以保证帝国的统一。
阿卜杜·马立克在朝廷之中也树立了一种与过去不同的风气。在他以前的统治者一向都是像古代阿拉伯部族族长一样的对待他们的臣民，而阿卜杜·马立克则是第一个以专制的统治者的姿态出现。作爲一个神权政体国家的代表人，他也赋予神学家们以较大的势力，他自己也认真地执行他本身在宗教方面的责任。当然，这并不足以妨碍他把基督教诗人艾赫泰勒请到他的宫廷里来。艾赫泰勒是出生于希赖的一个台格利卜部族的人，曾经给叶齐德一世效过劳。由于这位诗人不受任何宗教上考虑的限制，哈里发就可以让他运用他那种有力的诗句去打击麦地那宗教界人土所结戍的反对势力，这种反对势力有时候还是很麻烦的。
阿卜杜·马立克任命了自己的亲戚作各省总督(伊拉克除外)，藉以稳定各省的局面。埃及和北非这些在他统治时期才把柏柏尔人最后的反抗予以摧毁的地方则由他的兄弟阿卜杜·阿齐兹统辖着。阿齐兹原先曾经得到他父亲的保证有承继哈里发的权利。后来阿卜杜·马立克曾经试图说服他这个兄弟放弃承继权刊，但是未得成功。不过阿卜杜·阿齐兹却先于阿卜杜·马立克而死去了，因此在705年阿卜杜·马立克的儿子韦立德并未遭受反对就承继了他父亲的位置。
韦立德的武功所及之处又远远超过了帝国的疆界。经过长期围攻之后，小亚细亚的提安那落入阿拉伯人手中，虽然韦立德所策划的进攻君士坦丁堡的战役并未能实现。对于东方各地的征服是从伊拉克开始的。伊拉克总督哈查只也是整个伊朗的总督。704年，阿卜杜·马立克就已经根据哈查只的意见任命了古太白·穆斯林爲东方的呼罗珊省的总督。呼罗珊的地域所及从乌浒河(今名阿姆河)远达兴都库什山，这是多少个世纪以来伊朗人和土耳其人发生接触的地方。土耳其人在这个时候已经在卡普汗可汗（中国人称爲默啜可汗)统治时期在682年从中国人统辖之下夺取了上地，把他们的北部领土向西扩张。关于土耳其人以前的历史，将来在研究他们决定进入伊斯兰世界的时候当另有详细叙述。土耳其人有一个封臣以“塔尔甘”的身份驻在萨拉夫珊河南岸的粟特(又称河中)：阿拉伯语爲马瓦拉安纳尔)首府撒马尔罕。萨拉夫珊河下游的布哈拉是一个伊朗人和土耳其人杂居的地方，由一个土耳其王朝统治着。古太白利用这个最后一个王朝里的纷争倾轧，把那里的一个青年册立爲王。这个青年本人皈依了伊斯兰教，伊斯兰教此后就在布哈拉扎下了坚固的根基。撒马尔罕的塔尔甘也投顺了古太白，不过后来却被群情激昂的民衆所废弃。他的继任人古拉克在长期的被围困之后被迫投降古太白。虽然古拉克保住了他的王位，但是他却不能不接受阿拉伯人驻防。从此以后，虽然不免还是有些骚乱，但是伊斯兰教在这两个城市里却都存在下去，而且后来这两个城市还成爲伊斯兰教在中亚细亚的最重要的堡垒。从这里古太白更进一步地向东推进攻打弗尔干纳。714年夏天，古太白在那里突然听到哈查只死去的消息，因此他就撤兵到麦尔夫根据地。次年，韦立德也死了，古太白害怕韦立德的继位人苏莱曼报复，因爲原先古太白曾经声明反对过苏莱曼，拒不归顺他。不过古太白在一次士兵哗变之中被杀了。哈查只的女婿穆罕默德·嘎西木足驻巴士拉的总督，他在711年开始从波斯南部和俾路支去征服信德，这样就爲伊斯兰在印度开辟了另一个广大的势力范围。
在西方，阿拉伯人在韦立德统治时期跨越了直布罗陀海峡，在 711年7月25至26日在巴卡河谷一战(一度误称爲萨雷斯德拉夫朗泰拉之战)给予当时因内部动乱而削弱了的西哥德王国以致命的打击，最后的一个哥德国王罗德里克就在该地丧命。这支胜利的军队里面差不多完全是柏柏尔人。阿卜杜·阿齐兹任命并经韦立德认可的北非总督穆萨·努赛尔当初只是把这些柏柏尔人当作侦察部队派到海峡对过去的。率领这支部队的人塔立格·伊本·齐雅德是北非总督的受护民。塔立格登陆后集合队伍的那座山迄今仍用着他的名字称爲直布罗陀(阿拉伯语爲贾巴尔·塔立格)。塔立格这次意外的胜利引起了他的上司的妒忌，穆萨·努赛尔马上就继他之后带领一支主要是由阿拉伯人组成的军队更爲深入地向那个地区推进。他开始的时候在麦地那一锡当尼亚和卡尔莫纳取得一些初步胜利，后来由于围攻塞维尔和美利达而耽搁了一年的时间不能前进。在这个期间，另一些军队则在奥利胡拉和一个哥德国君塞奥道米尔作战。后来穆萨·努赛尔和塔立格在托勒多会师，一起征服了西班牙北部从萨拉哥萨到那瓦拉的地方。 714年，他携带着大批战利品回到非洲，随后又浩浩荡荡地开着凯旋的队伍登程前往叙利亚，韦立德这时在叙利亚已经等得不耐烦了：在穆萨·努赛尔回到大马士革之后不久，这位刚刚满四十岁的哈里发就在715年2月逝世了。
韦立德在帝国本土享受着他父亲的活动成果，到处都承认他是唯一独尊的君主。他一直在把越来越多的基督教徒从行政机构中排斥出去。他甚至还解除了塞尔仲·曼苏尔家族的职务，塞尔仲·曼苏尔家族是从穆阿威叶在世的时候起就一直掌管着财政事务的。像很多古代东方君主一样，韦立德也曾经大兴土木，但是这并不仅是由于他喜好炫耀铺张，而是想增加他的财産收入。叙利亚人认爲他是一个理想的统治者。
使得韦立德以建设者而闻名的主要工程是大马士革的那座通常称爲伍麦叶朝清真寺的大建筑物。过去那种指定一块地方就作爲祈祷之用，利用有带顶门廊的院子(像穆罕默德在麦地那住的那样)那一类的简单的形式很快地就过时了。以前的征服者在伊拉克的库法和巴士拉以及在埃及的弗斯德特最初建筑的一些军营都止于模仿穆罕默德的旧式清真寺的式样而已。欧麦尔和奥斯曼就已经把麦地那和麦加的清真寺加以扩充，他们把附近的房子都收买过来，把简单的亭子改爲一些石柱门廊。各省也都仿效着他们的办法；赛耳德，阿比·瓦嘎斯把萨珊王朝的建筑物和希赖各教堂的圆柱都拆出来装修库法的清真寺。在穆阿威叶时期，库法和巴士拉两地的清真寺都更加讲究起来。挨着米拉卜，即祈祷壁坛的地方，朝着麦加那个方向(基卜拉)，都有政府的建筑物和清真寺毗连，因爲在首都和各省里宗教仪式都由哈里发和总督们主持。据说奥斯曼曾经在麦地那的清真寺里爲他自己修了一层隔板(马克苏拉)以防遭人袭击。伍麦叶王朝时期各省总督也都纷纷效尤，依样办理。当左拜尔占据麦加，分廷抗礼也作哈里发的时候，阿卜杜·马立克因爲他的臣民们不能到麦加朝觐，曾经想在耶路撒冷另修一座卡巴天房，以供朝觐之用。就在欧麦尔进入耶路撒冷时要求作爲穆斯林礼拜之用的那个神圣的岩石台上，阿卜杜·马立克修建了一座神殿，今天称爲岩石神殿(有人误称爲欧麦尔清真寺)。那个由穆罕默德夜行故事里取名的阿格萨清真寺也在这时在神殿区建立起来。阿卜杜·马立克把查土丁尼的圣玛丽教堂当时还完好的部分都修在这个建筑物里，造了一个有三排圆柱的门廊，后来又添上有一个拱顶的侧堂和四个楹间。在帝国首都大马土革城内，穆斯林们至此只有一所朴质无华的小清真寺。
早在崇拜偶像时代；大马土革城中心就有一所大神殿，这所神殿后来经罗马人——可能是在图拉真时期——按照巴尔米拉的那座着名的太阳神庙的式样重建过，只是规模更大些。这所建筑物的一些残存的圆柱现在仍然还可以在清真寺的附近看到。379年在这个崇拜偶像时代的神庙原址上修了一座名爲施洗礼的约翰的教堂，这个教堂在豪瑙里乌斯的儿子阿尔卡迪乌斯时代又加以重修。它全部一直都是基督教的财産。有一种说法认爲穆斯林在征服这个地方之后马上就占据了教堂一半的地方供给他们礼拜之用，而把另一半留给基督教徒应用以酬谢他们投降，这种说法是后来伊斯兰教传说中编造出来的，这种传说己无法理解爲什麽要对基督教徒那样照顾了。尽管早期的几位哈里发曾经对于基督教徒的权利加以注意，但是韦立德在705年初却一下子就把这座教堂从基督教徒手里拿了过去，加以重建；把南面的墙以及与墙相毗连的那个旧神殿的门廊都修在一起，修成一个共有三个楹间，把拱顶架在柱上的正堂，一个式样模仿拜占廷遗址的侧堂，还有一个木屋顶。侧堂的那个石造圆顶穹无疑是在负责内部装饰的拜占廷镶嵌细工匠的主张之下第一次修造的。侧堂正中那一楹间的四角都仿效叙利亚的教堂的式样用一些半圆形的凹壁同中间的拱顶圆厅连接起来。圆柱的柱头都涂以金色，墙壁也是用大理石来装饰的，墙上还有一些描绘着城市和树木风景的镶嵌艺术品。在旧门廊西南角的一个旧塔的基础上又建立了一个新的召祷塔，清真寺门廊北边耸峙着那个“宣礼员的召祷塔”，院子外面朝北盖了一个高大的拱廊。这种把有列柱的门廊和前厅连在一起的建筑式样 (后来有许多清真寺都模仿它)是提尔奇在拜占廷的埃塞留斯和奥古斯提安的遗址发现的，在这些遗址上把皇宫的前厅当作大殿，设有典礼殿以供朝觐及接见之用，后者也是根据古典的式样的。这种建筑物在各省都是通过使用强迫劳役而修造的。一个从阿普洛狄铁发现的埃及草纸古本谈过这种建筑所花费的劳动。工人们毫无例外地都是外国人；文学传说中记载着曾经从拜占庭征募过一千二百名工人；我们从埃及草纸古本中也看到那里曾经雇用过一个波斯人。根据这些情况，不消说建筑的式样不可能是整齐划一的。外国技术后来也还需要采用；十二世纪时这个清真寺里的那座大锺就是由波斯人装置的。不幸的是叙利亚这个穆斯林建筑最古老的遗迹却是命运多乖，饱经浩劫的。在1069、1400、1893年，这所建筑物曾经三度遭受火灾，几乎烧得只剩下了墙基。
在这个帝国里，除了叙利亚这个枢纽地区之外，最重要的省份就是伊拉克了。在阿卜杜·马立克和韦立德时期，伊拉克是由哈查只·优素福统治着。前已述及，哈查只在693年担任了这个职务。他在那里的处境是非常困难的。当地居民由于积年累月地替哈里发进行战争，因而变得十分凶悍。在库法，假先知穆赫塔尔起兵作乱的事仍然在激动着人心。哈瓦利吉派仍然在巴士拉城外到处活动。这一派里面这时出现了一个新的派别称爲艾兹赖格派。这一派人把任何和他们见解不同拒不改变信仰的人都当作异教徒看待，就要连同他们的妻子儿女一并处死。穆海莱卜·阿比·苏弗拉在爲穆斯阿卜服务时期就已经和阿兹赖格派进行过斗争。穆海赖卜在他这个主子战死以后就归顺了阿卜杜·马立克，仍然保持着兵权。688年，阿兹赖格派推选了台米木部族的盖特里·伏查艾作哈里发。这个当时也以诗人而闻名于世的新哈里发，在库齐斯坦经常对伊拉克构成一种威胁，给穆海赖卜添了不少的麻烦；特别是由于阿卜杜·马立克最初派的两个总督由于妒忌的原因未曾给予穆海赖卜以足够的支援。头一个把新的军队交给他支配的是哈查只。有了新的军队，穆海赖卜就能追击反叛的人们一直远达波斯的基尔曼省内地。接着反叛的人们之间发生了内讧。盖特里带着阿拉伯人继续向塔巴利斯坦前进，而那些受护民则留在后面，在吉路夫特城里推选了一个新的领袖。穆海赖卜在这里轻而易举地战败了他们。在塔巴利斯坦，盖特里的那些阿拉伯人残酷地压迫当地人民；因此当地人的领袖就要求拉伊的总督前来援助。拉伊的总督把这些阿拉伯人打得一败涂地，盖特里本人也在这一次战役里阵亡(697年或698年)。另一个小哈瓦利吉派领袖是舍伊班部族的沙比卜，他一连有两年之久以摩苏尔爲根据地，使得伊拉克的局面不得稳定。沙比卜是一个不折不扣的盗魁，当地的基督教徒都关照他：因此他能够经常改变隐藏的地方，从那里袭击哈查只的军队。一直等到697年哈里发从叙利亚派来增援部队之后，才在杜及尔河畔把他战败，使他淹死在河水之中。哈查只对于叙利亚军队前来援助表示感激，却引起了当地贵族的不满。哈查只把受伊拉克统治的基尔曼省里的反叛者们完全清除了以后，又派了一支装备特别齐全的军队(“孔雀军”)，由过去的金达王室后裔阿卜杜·拉赫曼·伊本·艾史阿斯统率着，去征服当时由一个有土耳其血统的国君统治着的一个边陲小国西吉斯坦。这次出征没能够像这位暴燥的总督所希望那样迅速地达到目的，而总督却又一定要求迅速解决，于是伊本·艾史阿斯就把这件事情交给他的将官们去作决定，他知道对于这些将官们来说，哈查只和在这个野蛮地区里作战二者都是同样令人憎恶的。情况既是如此，他的将官们也就愿意马上宣誓拥戴他，如果他能够率领他们返乡对哈查只作战。于是艾史阿斯就和土耳其人缔结了和约，缓缓地带兵向西移动，这时在波斯的驻军也参加到他们一起了。当哈查只开出军队去打这些反叛者的时候，他们打败了哈查只，夺取了巴士拉，只剩下近郊还在哈查只的控制之中。这位总督从郊区又把反叛者打退回去，反叛者们这时又转向库法。哈里发于是又派出一支叙利亚军队，由他的儿子阿卜杜拉和他的兄弟穆罕默德率领着。给这两个人的任务是先和艾史阿斯进行谈判，甚至还授权他们表示可能召回那个爲人痛恨的总督。但是即使这样，艾史阿斯还是坚持拒不归顺，因此政府军队就转而进攻，先把他打败于德尔雅马杰姆，再败于马斯金；支援他们的人们有一部分在马斯金背弃了他。阿卜杜·拉赫曼·艾史阿斯逃到西吉斯坦的土耳其国君那里去，后者的确把他从一个阿拉伯长官手里解救出来，不过后来却又把他交出来送给哈查只的使者们。在押解途中，艾史阿斯在704年从一个城堡的垛口上跳下来自尽了。
哈查只直到把伊拉克的阿拉伯人这一次最后变乱镇压下去之后才能够安心地从事于巩固他的政权的工作，他这个政权是以叙利亚的军事力量爲基础的。在702年他在库法和巴士拉这两个骚乱不休的城市中途修筑了一个新的城市，称爲瓦西特(“中间城”)作爲他的政权中心和根据地。当哈查只在世的时候，他容许住在瓦西特的，除了来自叙利亚的阿拉伯军人之外，只有河中来的土耳其人。这些土耳其人原先大部分都是当作战俘和被放逐(虽然也是出于自愿)而来巴士拉的，这时都在这座新的城市里定居下来。直到哈查只死后，才准许亚拉姆人和波斯人到这个城市里居住。哈查只建立的这个新的城市，和在底格里斯河对岸的那座姊妹城卡斯卡一样，由于具有战略地位，一直到阿拔斯王朝时期还在伊拉克的城市中保持着它的地位，虽然阿拔斯王朝政府所在地已经不在瓦西特而是在巴格达了。
在韦立德统治时期，哈查只享受了他在韦立德的前任统治之下劳苦功高所种下的果实。这位新的统治者对于他保持着充分的信任；特别是由于哈查只拥护韦立德继位，反对阿卜杜·阿齐兹争夺承继权，因而使得韦立德心中对他怀有感激之意。哈查只这时积极努力使这个经过战乱蹂躏二十年的地区重趋繁荣。在这方面主要的问题是修复那些把两条河流的水运送到伊拉克各地的渠道以及那些防御沙漠保持地力的堰坝，使它们能够重新使用并且经常加以管理，这些堰坝都是稍有损坏就要开裂的。他采取了有力的措施，防止乡村居民大批流人大城市。他修正了货币制度和度量的标准，使得人们感觉在交易中可以安心，互相信任。据说他甚至对于正确地传达《古兰经》也发生过兴趣；可能这也不无政治上的原因，因爲从奥斯曼那时以来《古兰经》的念经人总是很容易煽动起反对政府的情绪的。《古兰经》的念经人爲了报答他这种关怀就宣传了一段轶事，说他年轻的时候曾经在故乡塔伊夫作过教师。曾经一度获得他的赏识的唯一当代诗人是哲利尔。哲利尔在穆斯阿卜统治时期就已经在伊拉克声誉卓着，他曾经和他对立的诗人法赖兹德格互相攻讦。正如同阿卜杜·马立克曾经在和反对他的麦地那人进行斗争时利用过基督教徒艾赫泰勒一样，他这位总督也利用哲利尔来爲自己歌功颂德，揭露秘密反对叙利亚统治的人们，714年6月，哈查只在实施了二十年仁政之后逝世了，当时年纪只不过刚过五十二岁而己。
继承韦立德的是他的兄弟素莱曼，这是按照他们父亲预先规定的次序的。哈查只晚年的时候曾经激烈地反对这样作，他劝哈里发让他的儿子继位。因此素莱曼就对哈查只怀恨在心，但是素莱曼的仇恨现在只能往哈查只手下的将官们身上发泄了。素莱曼继位之后马上就把麦地那总督奥斯曼·穆里免职。在征服东方的武功中声誉甚隆的呼罗珊总督古太白，穆斯林觉得还是先下手爲强，因此他号召他的军队起义反抗哈里发。但是原先曾经和他有过纠纷的台米木部族却声明反对他，结果把他杀死了。新任哈里发把伊拉克总督一职授与哈查只的死敌叶齐德。叶齐德是名将穆海莱卜·苏弗拉之子，当初在他父亲死后就承继了他父亲的职位作了呼罗珊总督；但是不久之后他就同他的伊拉克上司发生纠纷。哈查只的妻子就是叶齐德的姊妹，但是哈查只却断然拒绝不让她从中调停。他设法使哈里发革掉了叶齐德的职务，甚至还把他监禁了一年之久。后来叶齐德逃脱出来跑到拉姆拉去投靠素莱曼；这位哈里发的承继者于是就派他到伊拉克去，在那里向前任总督的部下报仇雪恨。哈里发只是把财政事项交由一位专门官员负责办理；据说这是出于叶齐德的请求，因爲叶齐德是想借此而避免呻吟于赋税重压之下的人民对他的怨恨；不过哈里发当时可能也只是奉行那种旧日行之已久的办法而已。叶齐德不久就和这个财政负责人发生了冲突，因爲这个负责人拒绝遵照他的要求动用国库的款项。于是叶齐德就开始想找一个更爲有利的职位。他要求哈里发把他调到呼罗珊去，不过还保留在伊拉克的统治权。他在东方的军事成就并不甚大；并且由于他横征暴敛遭到人们的痛恨，以致哈里发在死前就在考虑要向他问罪了。到哈里发的两位承继人时期叶齐德的命运也就到了尽头了。
