Osmanlı devrinde yetişen mutasavvıflardan. Merzifon’da doğdu. Merzifon emiri Sarı Danişmend Emir Aziz Efendinin oğludur. İlk tahsilini Merzifon’da tamamladıktan sonra Amasya’da Akşemseddin ile beraber tahsiline devam etti. Osmancık Medresesinde müderris iken, gördüğü rüya üzerine Mısır’da bulunan Zeynüddin Hafi’nin yanına giderek ona talebe oldu. Daha sonra hocasıyla birlikte Herat yakınlarındaki Haf kasabasına gitti. Birkaç sene burada kaldıktan sonra hocasından icazet (diploma) alarak Merzifon’a döndü (1421). Hocası bu talebesi için: "Bir odun kütüğünü yaktık Diyar-ı Ruma attık" demiştir. Vefatına kadar burada talebe yetiştirmekle meşgul oldu. Şöhreti kısa zamanda Anadolu’ya yayılan Abdürrahim-i Rumi, Sultan İkinci Murad Hanın ricası üzerine Merzifon Çelebi Sultan Mehmed Medresesinde ücretsiz müderrislik yaptı. Vefat tarihi kesin olarak belli değildir. Muhtemelen 1446’da vefat etmiştir.

Abdurrahim Rumi, Rumi mahlası ile birçok şiir yazmıştır. Aşıkane manzumelere yer verdiği rivayet edilen Divan’ı henüz ele geçmemiştir.

Tövbe ya Rab hata rahına gittiklerime
Bilip ettiklerime bilmeyip ettiklerime

beytiyle meşhur oldu. Divan’ından başka İrşad-ül-Enam, Divançe-i İlahiyat, Minhac-ül-İrşad ve Işıkname isimli eserleri vardır. Işıkname’si İstanbul Üniversitesi Kütüphanesi 1359 numarada kayıtlıdır.