Zeki Velidi Togan, 10 Aralık 1890 tarihinde Başkurt ilinde İsterlitamak'a bağlı Küzen köyünde doğdu. Daha ilk medrese tahsilini yaparken bir yandan da özel Rusça dersleri alıyordu. Öğretmen olan annesinden Farsça öğrenmeyi de ihmal etmiyordu. 1902 yılında orta tahsil için Ütek'e bulunan dayısı Habib Neccar'ın medresesine gitti. Buradaki öğrenimi sırasında Arapça dersler alarak dil bilgisini geliştirdi.

1908'de köyünden kaçarak Kazan'a gelip burada özel dersler aldı. Bu arada Katanov ve Aşmarin gibi bilginlerle tanıştı. 1909 yılında mezun olduğu Kasımiye medresesine “Türk Tarihi ve Arap Edebiyatı Tarihi Muallimi” oldu. 4 yıl süren bu öğretmenliği sırasında 1911 sonlarında yayınladığı "Türk ve Tatar Tarihi" adlı kitabı sayesinde meşhur olmaya başladı. Bu eserin iyi yankıları sayesinde Kazan Üniversitesi Arkeoloji ve Tarih Cemiyeti'ne Aza seçildi.

1913'te Fergane'ye, 1914'te Buhara'ya araştırmalar yapmak için gönderildi. Bu seyahat neticelerine ait hazırlamış olduğu raporlar başta Petersburg Arkeoloji Cemiyeti olmak üzere Kazan ve Taşkent Arkeoloji cemiyetleri mecmualarında yayınlandı. Bu arada Prof. Katanov'un şimdi İstanbul Üniversitesi Türkiyat Enstitüsü'nün esas nüvesini teşkil edecek olan kitaplarının Türkiye'ye gönderilmesine vesile oldu. Daha sonra Rus Millet Meclisi Duma'da Ufa Müslümanlarının temsilcisi olarak bulunmak üzere Petersburg'a gitti. Bilimsel çalışmalarına siyasî çalışmalarını da eklemiş oluyordu.

Bu sırada Bolşevik ihtilâli patlak verince o da Türklerin durumunun düzelmesi için mücadeleye girişti. Bolşevik İhtilâli'nden 22 gün sonra 29 Kasım 1917'de Başkurt ilinin muhtariyeti ilan edildi. Örenburg'u 18 Şubat 1918'de işgal eden Sovyetler onu tutukladılarsa da 7 Haziran'da hapisten kaçtı. Başkurt hükümeti kurulduğunda Togan, Harbiye Nazırı oldu. Bundan sonra Lenin, Stalin ve Troçki ile defalarca görüştü fakat olumlu sonuç alamayınca Türkistan'a çekilip orada mücadeleye karar verdi.

1920-23 yıllarında Türkistan'da amansız bir mücadeleye girişti ise de başarılı olamadı. Basmacı Hareketi'nin içinde bulundu. Türkistan Millî Birliği'nin kurucusu ve ilk başkanıdır. Paris, Londra ve Berlin'deki bir çok Orta-Asya tarihçisi onunla çalışmak istemesine rağmen, devrin Türkiye Milli Eğitim Bakanı Hamdullah Suphi, Fuat Köprülü, Rıza Nur, Yusuf Akçura'nın istekleri sayesinde Türkiye'den davet aldı. 20 Mayıs 1925'te geldiği Türkiye'de Maarif Vekâleti Telif ve Tercüme Encümeni'ne tayin edilmiştir. O zamanki Ankara'nın kitap açısından yetersiz olması yüzünden kendi isteği ile İstanbul Darülfünun'u Türk Tarihi Müderris Muavinliği'ne tayin edildi.

Bundan sonra İstanbul ve Anadolu kütüphanelerinde hummalı çalışmalarına başladı. Fakat, 1932'de I. Türk Tarih Kongresi'nde tıp doktoru Reşit Galip'in sunduğu Orta Asya'da iç deniz olduğu ve bunun sonradan kuruduğu konusu hakkındaki tebliğini eleştirince, Togan aleyhine bir kamuoyu oluştu. Kendisine takınılan bu kötü tutum üzerine ülkeyi terk etme kararını verdi. 8 Temmuz 1932'de istifa ederek Viyana'ya gitti. 1935'te doktora çalışmalarını bitirdikten sonra Bonn Üniversitesi'nde, 1938'de Göttingen Üniversitesi'nde ders verdi. 1939'da Millî Eğitim Bakanı'nın daveti üzerine tekrar Türkiye'ye geldi. İstanbul Üniversitesi'nde Umumî Türk Tarihi Kürsüsü'nü kurdu.

İkinci Dünya Savaşı'nın sonlarına doğru Türkiye'de Sovyetler aleyhine faaliyet ve Turancılık suçundan tutuklanıp mahkeme edildi. 10 yıl hapse mahkum edildiyse de Askerî Mahkeme kararı bozdu ve Togan beraat etti. 1948'de yeniden döndüğü üniversitedeki görevine ölümüne kadar devam etti. 1951'de İstanbul'da toplanan XXI. Müsteşrikler Kongresi'ne Başkanlık etti. Bu onun bilimsel alandaki şöhretini çok daha artırdı. Zeki Velidi Togan, 26 Temmuz 1970'te İstanbul'da vefat etti.