Orgeneral Nazmi Karakoç, 1909 yılında Bolu’da doğdu. 1929 yılında Piyade Asteğmen rütbesi ile Harp Okulu'ndan mezun oldu. 1930 yılında Piyade Okulu'nu bitirdi. Muhtelif birliklerde Takım Komutanlığı ve Bölük Komutanlığı yaptıktan sonra 1941 yılında girdiği Harp Akademisi'ni 1944 yılında bitirerek kurmay oldu.

1957 yılına kadar çeşitli karargah ve birliklerde görev yaptı. 1957 yılında Tuğgeneral, 1960’da Tümgeneral, 1961’de Korgeneral ve 1967’de Orgeneralliğe yükseldi. Tuğgeneral rütbesi ile 1 nci Jandarma Tümen Komutan Yardımcılığı, 2 nci Ordu Harekat Başkanlığı, 28 nci Tümen Komutan Vekilliği, Tümgeneral rütbesi ile 7 nci Kolordu Komutan Vekilliği, Kara Kuvvetleri Kurmay Başkanlığı, Korgeneral rütbesi ile aynı göreve devam ederek 2 nci Ordu Komutan Vekilliği görevlerinde bulundu. Orgeneral rütbesinde 2 nci Ordu Komutanı iken; 28 Ağustos 1969 tarihinde atandığı Kara Kuvvetleri Komutanlığı'ndan, 30 Ağustos 1970 tarihinde emekli oldu.

İki çocuğu olan Orgeneral Karakoç, 21 Ocak 1980 tarihinde vefat etti ve İstanbul Karacaahmet Mezarlığı'nda toprağa verildi.