islamin tulo
Islam levisi Jemenissä helposti ja nopeasti, ehkä vuosisadan taloudellisen taantuman ja juutalaisten ja kristittyjen tuona aikana harjoittaman julmuuden vuoksi. Profeetta Muhammed lähetti vävynsä kuvernööriksi ja kaksi Jemenin kuuluisinta moskeijaa—Janadiyyahissa (lähellä Taizizzia) ja sanaan suurmoskeija (jonka sanotaan yhdistäneen joitakin materiaaleja aikaisemmista juutalaisista ja kristillisistä rakennelmista)—ovat varhaisimpia esimerkkejä islamilaisesta arkkitehtuurista.
huolimatta siitä, että Muhammedin ensimmäinen seuraaja, kalifi Abū Bakr (palveli 632-634), onnistui yhdistämään Arabian niemimaan, ei kestänyt kauaa, kun Jemen jälleen osoitti hajanaisuutensa. Usein kun kalifi lähetti edustajan kukistamaan kapinoita tai hoitamaan muita ongelmia, edustaja perusti oman hallitsijasukunsa. Näin kävi Muhammad ibn Ziyādille, joka 800-luvun alussa perusti pääkaupungikseen Zabīdin kaupungin. (Katso ziyādid-dynastia.)
Jemenin historian kannalta tärkein tapahtuma islamin voiton jälkeen oli kuitenkin Zaydī—lahkon käyttöönotto 900-luvulla Irakista-ryhmä shiialaisia, jotka hyväksyivät Zayd ibn ʿalīn, Muhammedin suoran jälkeläisen, Profeetan viimeiseksi lailliseksi seuraajaksi. Suuri osa Jemenin kulttuurista ja sivilisaatiosta seuraavien 1000 vuoden ajan kantoi Zaydīn islamin leimaa. Samaan ajanjaksoon liittyi hämmentävä joukko ryhmittymiä, dynastioita, paikallisia ja keisarillisia hallitsijoita, jotka taistelivat toisiaan ja Zaydījä vastaan Jemenin hallinnasta. Heidän joukossaan olivat muun muassa Sululayḥidit ja Fāṭimidit, jotka olivat Ismāīīlījä (toinen shiiojen haara); Ayyūbidit; ja Rasūlidit, joiden pitkä hallinto (1200-1400–luvuilla) vakiinnutti sunnilaisuuden Etelä-ja Länsi-Jemenissä.
Jemen nousi seuraavan kerran maailmannäyttämölle, kun Erään kertomuksen mukaan suufilaisen uskonnollisen veljeskunnan johtaja havaitsi kahvin piristävät ominaisuudet juomana, luultavasti noin 1400-luvun alussa. Tämän seurauksena Jemenistä ja Punaisestamerestä tuli taisteluareena egyptiläisten, Osmanien ja eri eurooppalaisten valtojen välillä, jotka pyrkivät hallitsemaan Coffea arabican kehittyviä markkinoita sekä pitkäaikaista mausteiden ja mausteiden kauppaa idästä; tämä konflikti vallitsi suurimman osan 1500-ja 1600-luvuista. 1700-luvun alkuun mennessä Euroopan ja Aasian välinen reitti Afrikan ympäri oli kuitenkin tullut suosituimmaksi, ja maailma oli jälleen menettänyt kiinnostuksensa Jemeniin. Sillä välin kahvipensas oli salakuljetettu pois Jemenistä ja siirretty moniin uusiin ja tuottoisampiin paikkoihin Aasiasta uuteen maailmaan. Kaupan uudelleen suuntautumisen vaikutus oli dramaattinen: Adenin ja Mochan kaltaiset kaupungit (kuten nimestä voisi päätellä, aikoinaan merkittävä kahvilakeskus), joissa oli kasvanut yli 10 000 asukasta, kutistuivat muutaman sadan asukkaan kyliksi.