Çelebi Sultan Mehmed ve İkinci Murad devri vezir-i azamlarından. Amasyalı olup babasının adı Yahşi’dir. Çelebi Sultan Mehmed Amasya’da sancakbeyiyken hizmetine girdi. Ankara Muharebesinden sonra Osmanlı şehzadeleri arasında başlayan saltanat kavgalarında Çelebi Mehmed’i destekledi. Çelebi Mehmed’in Osmanlı tahtına geçmesinden sonra birinci vezir oldu (1413). Karamanoğlu üzerine yapılan bir seferde gösterdiği başarı üzerine vezir-i azamlık makamına ilave olarak Rumeli Beylerbeyliği de kendisine verildi (1414). Şeyh Bedreddin İsyanının bastırılmasında önemli rol oynadı. İkinci Murad Hanın tahta geçmesinden sonra da görevlerine devam etti. Bu sırada Mustafa Çelebi (Düzmece Mustafa) İsyanı meydana geldi. Mustafa Çelebi, Bizans İmparatorunun da desteğiyle Rumeli’de durumu lehine çevirmeye başladı. Bunun üzerine Murad Hanın emriyle, Bayezid Paşa Rumeli’ye geçerek Mustafa Çelebi üstüne yürüdü. İki kuvvet Sazlıdere mevkiinde karşılaştı. Fakat ilk temasta Bayezid Paşa kuvvetlerinin önce sağ kolu ve onu takiben sol kolu Mustafa Çelebi tarafına geçti. Bu vaziyet üzerine teslim olan Bayezid Paşa, Mustafa Çelebinin yanında bulunan Aydınoğlu Cüneyd Beyin ısrarıyla öldürüldü. Kabri Sazlıdere’dedir. Torunları zamanımıza kadar gelmişlerdir. Muktedir bir devlet adamı olan Bayezid Paşa, Amasya’da cami, imaret ve medrese inşa ettirmiştir.