1787 yılında istanbul'da doğdu. Babası Kadı Halil Efendi de bestekardı. 8 yaşında babasını kaybeden Abdi Efendi, bazı yakın dostların aracılığıyla Kapalıçarşı'da yemeni basmacılarından birinin yanına çırak girmiş ve 10 yıl kadar burada çalışarak kendinden üç yaş küçük kız kardeşine de bakmıştır.

Abdi Efendi 18 yaşlannda iken kız kardeşi ile Merdivenköy'de bir akrabalarım ziyarete giderlerken yorulup bir kenara oturmuşlar. Abdi Efendi, bu sırada bir gazel okumaya başlamış. Kıyafet değiştirmiş olarak oradan geçmekte olan Sultan III. Selim, okuyan gencin sesini beğenmiş ve musahibi vasıtasıyla kim olduğunu öğrendikten sonra ertesi gün kendisini saraya aldırmıştır. Bu suretle Enderun'da musiki öğrenimine başlayan Abdi Efendi, tatlı sesi, güzel tarzı ve üslubuyla kısa sürede, 20 yaşında (1808) padişah müezzinliğine yükselmiştir. Kabataş'ta bir ev satın alarak burada yaşayan sanatkar, Sultan II. Mahmud'un son yıllarında kurulan Mızıkay-ı Hümayün'da hocalığa başlamış ve bu görevi Sultan Abdülmecid zamanında da devam etmiştir.

Çeşitli formlarda eserler bestelemiş olan Abdi Efendi, önemli bir bestekardır. Özellikle şarkı formundaki eserlerinde diğer formdakilerden daha başarılı olduğu gözlenir.

Abdi Efendi, 1851 yılında Kabataş'taki evinde ölmüş ve Maçka'daki Şeyh mezarlığına gömülmüştür.