No le quedaba mucho tiempo de vida al emir, pero todavía los musulmanes iban a reconquistar las Islas Baleares, que desde el reinado de Abd al-Rahman II, se había rebelado y vivían de forma independiente. Sólo Ibn Jaldín nos da noticias de cómo sucedieron las cosas. Un piadoso andaluz, Isam al-Jawlani, se embarcó para cumplir con el precepto de viajar a La Meca, cuando una tempestad le obligó a refugiarse en Mallorca. A su regreso de Oriente, le comentó a Abd Allah lo fácil que podía resultar apoderarse del archipiélago. Unas galeras, tripuladas por un gran número de combatientes por la fe, a las órdenes del mismo Isam al-Jawlani, se hicieron con las islas sin mayores problemas. El gobierno fue confiado al jede de la expedición que, durante diez años, ocupará este puesta hasta su muerte, después de haber construido mezquitas, casas de baños y alhóndigas. Le sucedió su hijo, que fue confirmado en este puesto por Abd al-Rahman III, pero acabó por retirarse a Oriente donde acabó sus días como un asceta.Abd Allah murió en la noche del 15 al 16 de octubre de 912, después de un reinado terriblemente turbulento. Con sus defectos y sus pocas virtudes, este emir no gozó ni un solo día de tranquilidad. Era ya anciano, y su reino , aún tambaleante, pasaba a su nieto Abu-l- Mutarrif Abd al-Rahman, todavía muy joven. Fue proclamado, de inmediato ante todos sus parientes, vestidos de blanco en señal de duelo, que le prestaron juramento de fidelidad. Comenzaba con Abd al-Rahman III el siglo IV de la era del Profeta, el más glorioso de la historia de al-Andalus.
