İlçenin tarihi Tunç Dönemine kadar gitmektedir. Bölge M.Ö. 2200' lerde Hurilerin, M.Ö. 1375-1335 yıllarında Suriye' ye ilerleyen Hititlerin, Hitit Devleti yıkılınca da Urartuların hakimiyetine girmiştir.

M.Ö. 560' larda Asur ve Urartu Devletini yıkan Medler Mazgirt dahil tüm Tunceli yöresine hakim oldular. M.Ö. 550' lerde Medler, Persler tarafından ortadan kaldırılınca bölge Perslerin hakimiyetine Pers ordularının M.Ö. 334-332' de İskender karşısında aldığı yenilginin sonucu yöre bu kez Makedonya egemenliğine girdi. Daha sonra bölge Arslar, Kapadokya ve Romalılar arasında zaman zaman el değiştirdi. Roma İmparatorluğu hakimiyeti uzun süre devam etmiş, İmparatorluğun 395' de Doğu ve Batı Roma diye ikiye ayrılmasından sonra Bizans İmparatorluğu sınırları içerisinde kalmıştır.

Birinci Kubat yönetiminde Sasani İmparatorluğu 503 yılında Erzurum ve Diyarbakır' ı alınca Tunceli yöresi Sasani, Bizans ve Araplar arasında 1071 yılına dek sürekli el değiştirmiştir.

1115 Yılında Harput' u ele geçiren Altukoğulları, Çubukoğullarının egemenliğine son verince Mazgirt ilçesinin tamamının egemenlikleri altına aldılar. 1100 ve 1200 yıllarında Mengüçler yöreye hakim oldular. 1228 yılında Selçuklular Mengüçler' in egemenliğine son verince Mazgirt ve yöresi Selçuklu Devleti' nin;Selçuklu Devletinin Moğollar' a yenilmesi ile 1243 yılında yöre bu kez Moğolların egemenliğine girdi. 1300 yıllarında ise Akkoyunlular yöreye hakim oldular. 1473 Yılında Osmanlıların egemenliğine giren Mazgirt ve yöresi 1520 yılında Sancak haline getirildi.

Osmanlı İmparatorluğu' nun duraklama ve gerileme döneminde 1600-1800 yıllarında Mazgirt Osmanlı eyaleti olan Diyarbakır' a bağlı idi. 1847 Yılında Erzurum Vilayetinin Erzincan Sancağına, 1879 yılında Dersim Vilayet olunca Dersim Vilayetinin, 1886 yılında Elazığ Vilayetinin Sancağı durumuna geldi.

Birinci Dünya Savaşına kadar Elazığ' a bağlı bir ilçe durumunda olan Mazgirt 25 Aralık 1935 tarih ve 2885 Sayılı Kanunla kurulan Tunceli Vilayetine bağlandı.

1937 Yılında Dersim' de meydana gelen ayaklanmalardan ötürü Mazgirt ve bağlı Tunceli geçici olarak Elazığ' dan yönetilmeye başlandı. 30 Aralık 1946 tarihinde merkez dahil sekiz ilçesi ile beraber kurulan Tunceli Vilayetinden yönetilmeye halen devam edilmektedir.