Erzincan’ın bilinen târihi Hititlere dayanır. Mühim bir stratejik bölgede ve Asya ile Avrupa’yı birleştiren yollar üzerinde oluşu yüzünden birçok istilâya mâruz kalmıştır. Sırasıyla bölgeye Urartular, Medler, Persler, Makedonyalılar ve Romalılar hâkim oldular. Roma İmparatorluğunun M.S. 395’te ikiye ayrılması ile Anadolu’nun diğer bölgeleri gibi bu bölge de Doğu Roma (Bizans)nın payına düşmüştü. Erzincan havâlisi daha sonraları Sâsânîlerle Romalılar arasında el değiştirmiştir. Hazret-i Osman devrinde Habîb bin Mesleme H. 655 senesinde Erzincan’ı fethederek bölgenin tamâmen Müslümanların idâresine girmesini sağladı. Bir süre sonra Bizanslılar bölgeyi tekrar geri aldılar.

1071 Malazgirt Zaferinden sonra Anadolu Fâtihi Kutalmışoğlu Süleymân Şah, Erzincan’ın fethi görevini büyük komutanlarından Mengüc (Mengücek) Beye verdi ve Mengüc Bey, Erzincan’ı fethetti. Mengücoğulları uzun müddet bu bölgeye hâkim oldular. Selçuklu Sultânı Alâeddîn Keykubad Mengücoğullarının bağımsızlığına son vererek Konya’ya bağlı bir vilâyet hâline getirdi. Sultan Keykubad, 10 Ağustos 1230’da Sultan Harzemşâh ve müttefiklerini Erzincan yakınlarında Yassıçemen’de askerî hezîmete uğrattı.

On üçüncü asrın sonunda Anadolu, Moğol ve İlhanlıların istilâsına uğradı. İlhanlılar ve Selçuklular târih sahnesinden çekilince bu bölge Celâyirlilere daha sonra da Eratnaoğullarının hâkimiyeti altına girdi. Eratnaoğullarından Barak Bey ve Mutahharten Bey, Erzincan ve Kemah’ı 14. asrın ortasına kadar idâre ettiler. 1401’de Osmanlı Sultânı Yıldırım Bâyezîd, bu bölgeyi ele geçirdi. Mutahharten Bey Timur’a sığındı. 1402 Ankara Savaşının bir sebebi de bu oldu. Timur Han Anadolu’yu terk edince Yıldırım’ın oğlu Çelebi Sultan Mehmed, yeniden kaybolan bölgeleri geri aldı. Timur’a bağlı olan Akkoyunlular, Erzincan’a sâhip çıktılar.

Fâtih Sultan Mehmed Han Akkoyunlu Sultânı Uzun Hasan’ı Tercan yakınlarında Otlukbeli Zaferi ile yenerek Erzincan ve civârını ele geçirdi. Akkoyunluları yıkan İran Safevîleri, Erzincan bölgesi için Osmanlılarla mücâdele ettiler. 1514’te Yavuz Sultan Selim Han, Çaldıran Zaferi ile bu bölgeyi Osmanlı Devleti topraklarına kattı.

Osmanlı idâresinde Erzincan, Erzurum beylerbeyliğinin 12 Sancak (vilâyetinden)birinin merkezi oldu. Eğin (Kemâliye) Sivas Beylerbeyliğine, Kemah ise önce Diyar-ı Bekr sonra da Erzurum beylerbeyliğine bağlandı. Erzincan Tanzimâttan sonra da Erzurum Beylerbeyliğinin 4 sancağından biri oldu.

1877-1878 Türk-Rus savaşından sonra Ruslar, Erzurum ve Kars’ı işgâl edince, Dördüncü Ordu merkezini Erzincan’a nakletti. 24 Temmuz 1916 ile 26 Şubat 1918’e kadar 1 sene 7 ay 3 gün ErzincanRus işgâli altında kaldı. Bu işgâlden sonra Ermeni çeteleri Erzincan’a çok zarar vermişlerdir. 36 ve 28. tümenlerin savunduğu Kemah’a Ruslar giremedi. Cumhûriyet devrinde bütün sancaklara (mutasarrıflıklara) “vilâyet-il” denilince, Erzincan da vilâyet oldu. 1939 senesinde çok şiddetli bir deprem ile Erzincan harâbe hâline geldi.