Dopo la morte di Umar, un altro figlio di Abd al-Malik, Yazid II (720-24) divenne califfo. Yazid è conosciuto soprattutto per il suo "editto iconoclasta", che ordinò la distruzione di tutte le immagini cristiane nei territori del Califfato ma, in effetti, dal punto di vista islamico, il suo più grande merito fu quello di sedare, nei primi mesi del suo breve regno, una nuova grande rivolta sorta in Iraq e guidata da Yazid ibn al-Muhallab.

Alla morte prematura di Yazid II il trono passò all'ultimo figlio di Abd al-Malik, Hisham (724-43), il cui lungo e movimentato regno fu soprattutto segnato da un deciso rallentamento dell'espansione militare.
Hisham stabilì la sua corte nella città di Resafa, nel nord della Siria, che era più vicina al confine bizantino rispetto a Damasco, per riprendere le ostilità contro i Bizantini, in quel momento in una fase di decadenza a seguito del fallimento dell'ultimo assedio di Costantinopoli. La nuova campagna sfociò, dopo una serie di vittoriose incursioni in Anatolia, in una grande sconfitta (la battaglia di Akroinon), e non portò a nessuna significativa espansione territoriale [1].
 

Al contrario, la sconfitta dell'esercito arabo dai Franchi nella battaglia di Tours nel 732 segnò la fine dell'espansione in Occidente, nel 739 una grande rivolta berbera scoppiata in Nord Africa venne domata con estrema difficoltà e anche le campagne verso oriente, allorché l'esercito califfale tentò di sottomettere sia Tokharistan, con centro a Balkh, che Transoxiana, con centro a Samarcanda, furono tutt'altro che vittoriose: dopo numerose sconfitte Hisham riuscì a conquistare parzialmente le nuove province, che rimasero però riottose e difficili da governare.
 Ancora una volta, una particolare difficoltà riguardava la questione della conversione dei non-arabi, in particolare dei Sogdiani di Transoxiana: dopo la sconfitta degli Omayyadi nella battaglia del "Giorno della sete" nel 724, Ashras ibn 'Abd Allah al-Sulami, governatore di Khorasan, arrivò a promettere sgravi fiscali per coloro tra i Sogdiani che si fossero convertiti all'Islam, ma dovette rivedere la sua proposta, quando essa si rivelò troppo popolare e cominciò a minacciare di ridurre le entrate fiscali. Conseguentemente alla delusione della promessa rimangiata, nel 734, al-Harith ibn Surayj guidò una rivolta dei Sogdiani, catturando Balkh ma non riuscendo a prendere Merv. Dopo questa sconfitta pare che il movimento di al-Harith si dissolse, ma il problema dei diritti dei non-Musulmani arabi continuò ad affliggere gli Omayyadi lungo tutto il loro Califfato [2].
A Hisham succedette Al-Walid II (743-44), figlio di Yazid II. Al-Walid era noto per essere più interessato ai piaceri terreni che alla religione, una reputazione che può essere confermata dalle decorazioni dei cosiddetti "palazzi del deserto" (compresi Qusayr Amra e Khirbat al-Mafjar) a lui attribuite. Il suo stile di vita gli attirò subito l'inimicizia di molti, che prima si opposero alla sua ascesa al trono e, dopo la sua nomina, si rifiutarono di riconoscerlo Califfo: già nel 744, Yazid III, figlio di al-Walid I, fu proclamato Califfo a Damasco al suo posto e il suo esercito rintracciò e uccise al-Walid II. Yazid III, noto per la sua religiosità e per la sua pietà, avrebbe potuto essere, da quanto leggiamo nelle fonti, un buon Califfo, ma purtroppo morì a soli sei mesi dall'inizio del suo regno.
Yazid aveva nominato successore suo fratello Ibrahim ma Marwan II (744-50), nipote di Marwan I, guidò un esercito dalla frontiera settentrionale e, nel dicembre del 744, entrò a Damasco, dove fu proclamato Califfo, per poi immediatamente trasferire la capitale a Harran, nel nord dell'attuale Turchia. Quasi subito, probabilmente a causa di risentimento per il trasferimento della capitale, una ribellione scoppiò in Siria e, nel 746, Marwan si vide costretto a radere al suolo le mura di Homs e Damasco per rappresaglia. I suoi problemi, però, non erano finiti: dovette ancora affrontare una forte opposizione da parte dei Kharigiti in Iraq e in Iran, che prima si ribellarono guidati da Dahhak Qays Ibn Abu Dulaf e poi si proposero come Califfi rivali. Solo nel 747 Marwan riuscì a ristabilire il controllo dell'Iraq, ma solo per dover immediatamente affrontare una  minaccia ancora più grave sorta in Khorasan [3].